Das US-Unternehmen Hugging Face fordert eine transparente Aufarbeitung des autonomen Hackerangriffs durch ein KI-Modell. Die Verantwortlichen von OpenAI sollen der Community offenlegen, wie es zu dem Vorfall kommen konnte, schrieb CEO Clem Delangue in einem Post auf X.

Delangue ist nach eigenen Angaben in die Labors von OpenAI gereist, um "ein kleines Gespräch mit diesem 'abtrünnigen' Agenten zu führen". Dort traf er offenbar auf Menschen, die er gebeten habe, "die Protokolle der 'abtrünnigen' Agenten zu veröffentlichen, damit die gesamte Forschungsgemeinschaft untersuchen kann, was passiert ist", wie er auf X schreibt.

Ferner wollte er sicherstellen, dass künftige Attacken verhindert werden können. Dafür soll OpenAI dem Plattformbetreiber KI-Rechenleistung im Wert von 100 Millionen Dollar bereitstellen. Mit diesen Ressourcen könnte die Hugging-Face-Community dabei helfen, leistungsstarke Cyberabwehrmassnahmen mit den besten offenen und geschlossenen Modellen aufzubauen. "Der erste Cyberangriff durch einen autonomen Agenten ist ein beispielloses Ereignis. Er verdient eine beispiellose Reaktion", so Delangue.

Sowohl das Opfer als auch der Täter arbeiten weiter an einer vollständigen Aufklärung des Cyberangriffs. Hugging Face bereite eine öffentliche Zeitleiste des Angriffs vor. Parallel untersuche OpenAI gemeinsam mit externen Beratern den Vorfall und stellt eine technische Analyse in Aussicht. Auf die Forderungen von Hugging Face ging das Unternehmen allerdings nicht ein, schreibt die Nachrichtenagentur 'Reuters'.

Der Angriff von autonomen KI-Agenten aus den Labors von OpenAI hat offenbar grössere Ausmasse als bis anhin bekannt. Von Insidern will 'Reuters' erfahren haben, dass die KI schon bedeutend vor der Aufdeckung des Vorfalls aktiv gewesen ist. Der Ausbruch aus der vermeintlich geschützten Testumgebung sei bereits am 9. Juli geschehen, der Einbruch bei Hugging Face zwei Tage später. Anschliessend trieb der Schädling während zwei Tagen sein Unwesen in der Infrastruktur des Technologieunternehmens und zügelte Wissen ab.

Eine Woche später bemerkte Hugging Face den Agenten. Gleichzeitig fanden Forschende von OpenAI Hinweise auf den Ausbruch der Agenten und Notizen, wie künftigen KI-Modellen ebenfalls die Flucht aus Testumgebungen gelingen kann. Das Bekennerschreiben an Hugging Face veröffentlichte OpenAI dann umgehend.