Der ChatGPT-Entwickler OpenAI verschärft nach aufsehenerregenden Hacks durch KI-Software die Sicherheitsvorkehrungen bei Tests Künstlicher Intelligenz. Automatisierte Systeme sollen die Aktivitäten der KI-Modelle in den Versuchen strikter überwachen und bei verdächtigen Handlungen innerhalb von 30 Minuten Menschen benachrichtigen. Wenn diese Menschen in 30 Minuten nicht zum Schluss kommen, dass es ein falscher Alarm ist, werde die Aktivität gestoppt, erläuterte OpenAI in einem Blogeintrag.

OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Nach allem, was bekannt ist, suchte es dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Dabei nutzte die KI von OpenAI anscheinend eine ganze Reihe von Schwachstellen aus, die zum Teil noch unbekannt waren.

Alarmierend war vor allem, dass die Künstliche Intelligenz dabei völlig eigenständig agierte und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eingedrungen waren.

Der ChatGPT-Entwickler verkündete bereits die Einführung von verschärften Sicherheitsmassnahmen. Die Überwachung der Tests ist für OpenAI mit erheblichem Rechenaufwand und damit auch mit hohen Kosten verbunden. Die Firma schätzt, dass dafür noch einmal etwa ein Fünftel so viel Computerleistung notwendig sein wird wie für den Betrieb der beobachteten KI-Modelle.

Die automatisierten Überwachungssysteme sollen künftig unter anderem nach Versuchen von Datendiebstahl Ausschau halten sowie nach Anläufen, Sicherheitsvorkehrungen zu durchbrechen. Ausserdem sollen die KI-Modelle stärker darauf ausgerichtet werden, nicht zu unlauteren Mitteln wie der Ausnutzung von Schwachstellen zu greifen, um Testaufgaben zu erfüllen. Einige Tests neuer Modelle wurden ausgesetzt, bis die neuen Massnahmen durchgängig umgesetzt werden.

OpenAI-Topmanager Greg Brockman betonte zugleich, die Fähigkeiten neuer KI-Modelle, Schwachstellen aufzuspüren, seien ein grosser Gewinn für die Abwehr von Cyberattacken. Damit könne man das Internet sicherer denn je machen, schrieb er in einem Blogeintrag.

Doch es bleibe ein "Katz-und-Maus-Spiel": Auch Angreifer könnten mit Hilfe von KI bisher schlummernde Sicherheitslücken finden. Auf seiner privaten Webseite habe ein öffentlich zugängliches ChatGPT-Modell 13 Schwachstellen gefunden und binnen einer Stunde schliessen können, schrieb Brockman.

OpenAI weitet neben den Sicherheitsvorkehrungen auch das Werbegeschäft mit seinem Chatbot ChatGPT auf Europa aus. Die Reklame wird am kommenden Montag (24. August) in 31 europäischen Märkten aktiviert. Neben der Schweiz umfasst der Schritt unter anderem Deutschland, Österreich, Frankreich, Spanien, Italien, Polen sowie die Benelux- und die skandinavischen Länder.

Die Ausweitung auf die Schweiz und Europa erfolgt genau sechs Monate nach dem Start des ersten Werbetestlaufs in den USA. Zum europäischen Marktstart kooperiert OpenAI zunächst mit grossen Werbeagenturen wie Publicis, WPP, Omnicom, Mediaplus, und Havas. Ein Self-Service-Tool für kleinere Unternehmen und Selbstständige soll in Kürze folgen.

Die Werbeinhalte wären optisch von den Chat-Inhalten unterscheidbar, so Dave Dugan, Vice President of Ads bei OpenAI, gegenüber der Nachrichtenagentur 'DPA'. Wer keine Werbung sehen will, solle auf ChatGPT Plus oder Pro umsteigen. Ausserdem sei die Privatsphäre gewährleistet, da Werbetreibende laut dem KI-Unternehmen keinen Zugriff auf Chatverläufe erhalten würden.