OpenAI verschärft KI-Kontrollen nach Hacking-Vorfällen

10. August 2026 um 09:06
  • security
  • openai
  • Künstliche Intelligenz
  • hacking
image
Foto: Zac Wolff / Unsplash

Das neue OpenAI-Modell Astra kann eigenständig Cyberattacken durchführen. Deshalb will der ChatGPT-Entwickler leistungsfähige KI künftig stärker abschirmen.

Der ChatGPT-Entwickler OpenAI will nach eigenmächtigen Hacking-Attacken durch Künstliche Intelligenz seine neuen KI-Modelle härter kontrollieren. Software mit weitreichenden Fähigkeiten soll stärker überwacht und abgeschirmt werden, unter anderem durch eingeschränkten Zugang zu Netzwerken und Programmierwerkzeugen.
Für ein neues KI-Modell mit dem Namen Astra hat das zur Folge, dass "interne Aktivitäten", die noch nicht den verschärften Sicherheitsvorkehrungen entsprechen, vorerst pausiert werden. OpenAI sei zu dem Schluss gekommen, dass Astra in der Lage sei, eigenständig Schwachstellen zu finden und komplette Cyberattacken durchzuführen, hiess es in einem Blogeintrag. Diese Fähigkeiten erreichten bei dem Modell ein kritisches Niveau.

Alarmierende Angriffsserie

OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an.
Alarmierend war allerdings, dass die Künstliche Intelligenz dabei völlig eigenständig agierte – und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eindrangen.

Unlösbare Aufgaben und Schummeln

Forschende von OpenAI berichteten auch, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommunizierten, um für den Ausbruch aus der Testumgebung zusammenzuarbeiten. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten OpenAI-Experten in einer Präsentation auf der Cybersecurity-Konferenz "Black Hat". Zu den Erkenntnissen der Forschenden gehört auch, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.
Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internetzugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hiess es.

Loading

Kommentare

Anmeldung wird geprüft …

Mehr zum Thema

image

PwC und Microsoft: KI mit Geschäftsnutzen

Microsoft zeichnet PwC weltweit und in der EMEA-Region aus. Im Fokus der Zusammenarbeit steht die Frage, wie Cloud und KI im Unternehmen Geschäftsnutzen schaffen. PwC Schweiz verbindet dafür lokale Kundennähe mit globaler Expertise.

image

KI im Unternehmen: Wer behält die Kontrolle?

Künstliche Intelligenz hält Einzug in Schweizer Unternehmen. Doch mit der Nutzung wachsen auch die Anforderungen an Datenschutz, Governance und Kostenkontrolle. LAKE Solutions zeigt, wie sich KI sicher und wirtschaftlich als Business Service betreiben lässt.

imageAbo

Bundesrat lehnt ersten Vorstoss zum KI-Gipfel ab

Eine Motion im Parlament fordert "Internationale Regeln für schwere KI-Risiken". Die Regierung teilt teilweise das Anliegen.

publiziert am 13.11.2026
image

Europol legt drei Malware-Netzwerke lahm

Die Behörden haben in einer internationalen Polizeiaktion Gootloader, CastleRAT und Stealc zerschlagen und identifizierten zudem 6,4 Millionen gestohlene Zugangsdaten.

publiziert am 13.11.2026