Nach der Aufregung um eigenständige Hacking-Aktivitäten von Künstlicher Intelligenz des ChatGPT-Entwicklers OpenAI hat die Firma drei an der Aufarbeitung beteiligte Experten entlassen. Sie hätten gegen interne Regeln zum Umgang mit vertraulichen Informationen verstossen, teilte OpenAI zur Begründung mit.
Zugleich betonte die KI-Firma, niemand sei gefeuert worden, weil er Sicherheitsbedenken geäussert habe. Das Fehlverhalten sei über das Teilen von Informationen mit einer externen Analysefirma hinausgegangen, hiess es vom Unternehmen ohne nähere Details.
Das '
Wall Street Journal' (Paywall) hatte zuvor unter Berufung auf informierte Personen die Namen der drei entlassenen Mitarbeiter genannt. OpenAI sprach nur von zwei Sicherheitsforschern und einem Programm-Manager, wollte die Namen auf Anfrage aber nicht bestätigen. Auch die drei von der Zeitung genannten Personen äusserten sich zunächst nicht. OpenAI zufolge war das für die Beschäftigung nötige Vertrauen nicht mehr gegeben.
Negativ-Schlagzeilen für OpenAI
In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen
KI-Firma gehackt, der Plattform Hugging Face. Zur Aufarbeitung des Vorfalls hatte OpenAI für einige Tage auf KI-Sicherheit spezialisierte externe Experten herangeholt, die später tiefgreifende Einblicke in die Vorgehensweise der Software veröffentlichten. Zumindest einer der vom 'Wall Street Journal' gefeuerten Mitarbeiter hatte erwähnt, Anlaufstelle für die externen Analysten gewesen zu sein.
Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, hiess es weiter. Das Eingeständnis war besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face verschärft hatte. Zudem strich die Firma die Veröffentlichung eines neuen KI-Modells GPT 6.1 Astra nach Sicherheitsbedenken.
Selbstregulierung in den USA
Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die Unternehmen jedoch nur, die Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Er wolle, dass sich die Unternehmen gegenseitig beaufsichtigten, sagte Trump.