OpenAI stoppt KI-Training wegen neuem Sicherheitsvorfall

28. September 2026 um 09:12
image
Illustration: Ubaid E. Alyafizi / Unsplash+

Ein neues OpenAI-Modell hat aus einer abgeschotteten Testumgebung mit einem Chatbot im offenen Internet kommuniziert. Der KI-Konzern hat daraufhin das Training seiner leistungsstärksten Modelle pausiert.

Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Ein neues KI-Modell hat es geschafft, Antworten von einem externen Chatbot zu bekommen.
Dies, obwohl es eigentlich keinen Internetzugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, berichtete OpenAI in einem Blogeintrag. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien.

Umweg zum Chatbot

In dem Testszenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Webimitation in einer abgeschirmten Testumgebung zurückgreifen.
Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzerin oder Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.

Nutzerbilder und Regierungs-Websites

Zuletzt wurden mehrere neue Zwischenfälle mit KI von OpenAI bekannt. Dazu gehört, dass sie 53 Mal von Nutzenden hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Grossteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzenden betroffen waren.
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die 'New York Times' berichtete.

"Dutzende" Betroffene

Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit. "Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hiess es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Loading

Kommentare

Anmeldung wird geprüft …

Mehr zum Thema

image

KI im Unternehmen: Wer behält die Kontrolle?

Künstliche Intelligenz hält Einzug in Schweizer Unternehmen. Doch mit der Nutzung wachsen auch die Anforderungen an Datenschutz, Governance und Kostenkontrolle. LAKE Solutions zeigt, wie sich KI sicher und wirtschaftlich als Business Service betreiben lässt.

imageAbo

Bundesrat lehnt ersten Vorstoss zum KI-Gipfel ab

Eine Motion im Parlament fordert "Internationale Regeln für schwere KI-Risiken". Die Regierung teilt teilweise das Anliegen.

publiziert am 13.11.2026
imageAbo

"Abraxas ist für KI und Souveränität gut aufgestellt"

Abraxas-CEO Reto Gutmann und Verwaltungsratspräsident Markus Gemperle berichten im Interview, dass KI und digitale Souveränität für Schweizer Verwaltungen hoch im Kurs stehen.

publiziert am 13.11.2026
image

Zug investiert 55 Millionen in ETH-Professuren für Cybersicherheit

Die neuen Professuren widmen sich insbesondere den Sicherheitsfragen rund um Künstliche Intelligenz.

publiziert am 12.11.2026