Der ChatGPT-Entwickler OpenAI will nach eigenmächtigen Hacking-Attacken durch Künstliche Intelligenz seine neuen KI-Modelle härter kontrollieren. Software mit weitreichenden Fähigkeiten soll stärker überwacht und abgeschirmt werden, unter anderem durch eingeschränkten Zugang zu Netzwerken und Programmierwerkzeugen.

Für ein neues KI-Modell mit dem Namen Astra hat das zur Folge, dass "interne Aktivitäten", die noch nicht den verschärften Sicherheitsvorkehrungen entsprechen, vorerst pausiert werden. OpenAI sei zu dem Schluss gekommen, dass Astra in der Lage sei, eigenständig Schwachstellen zu finden und komplette Cyberattacken durchzuführen, hiess es in einem Blogeintrag. Diese Fähigkeiten erreichten bei dem Modell ein kritisches Niveau.

OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an.

Alarmierend war allerdings, dass die Künstliche Intelligenz dabei völlig eigenständig agierte – und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eindrangen.

Forschende von OpenAI berichteten auch, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommunizierten, um für den Ausbruch aus der Testumgebung zusammenzuarbeiten. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten OpenAI-Experten in einer Präsentation auf der Cybersecurity-Konferenz "Black Hat". Zu den Erkenntnissen der Forschenden gehört auch, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.

Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internetzugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hiess es.