KI-Forscher: "Unser Textbot ist zu gefährlich für die Menschheit"

Die von Elon Musk mitfinanzierte Organisation OpenAI hält ihr neues KI-System zurück.
 
Die Non-Profit-Organisation OpenAI verfolgt nach eigenem Bekunden ein hehres Ziel. Sie will eine sichere Generelle Künstliche Intelligenz auf Open-Source-Basis entwickeln und deren Vorteile gerecht verteilen. Nun meldet das Forschungsprojekt, etwas Gefährliches entwickelt zu haben: Und zwar eine KI namens GPT2, die täuschend echte Nachrichtenartikel und Kommentare verfassen könne.
 
OpenAI hat ein Textbeispiel veröffentlicht, das die Leistung der KI unterstreichen soll: Nach der händischen Eingabe von zwei Sätzen generiere das System automatisch Text, der nach nur zwei Durchläufen nicht mehr als maschinell erzeugt erkannt worden sei. Es gebe zwar noch einige Fehler, aber in Themen, die in den Trainingsdaten häufig vorkommen würden, sei die Quote angemessener Texte bei rund 50 Prozent, so die Wissenschaftler in einem Blogpost.
 
Offenbar machte GPT2 zudem Fortschritte beim Lernen weiterer Aufgaben: Etwa Artikel zusammenfassen, Fragen beantworten oder Text übersetzen. Die Leistung sei bei diesen Aufgaben zwar noch nicht State-of-the-Art, aber es deute sich hier bereits das Potential an.
 
Dies sei aber alles gar nicht trainiert worden, schreiben die Wissenschaftler. Eigentlich hätte die KI "nur" das nächste Wort in 40 Gigabyte Text aus dem Internet vorhersagen sollen, wenn es die vorherigen Wörter kennt. Dafür wurde das 1,5 Milliarden Parameter umfassende Modell mit einem Datensatz von acht Millionen Websites trainiert.
 
Gefahr eines Fake-News-Bots
OpenAI will die KI nun nicht in die freie Wildbahn entlassen, denn sie könnte laut Forscher des Instituts dafür missbraucht werden, massenhaft Fake-News, Kommentare und Bewertungen von Produkten oder Plattformen zu produzieren.
 
Deswegen ist bislang nur eine eingeschränkte Version von GPT2 zu experimentellen Zwecken veröffentlicht worden. Man findet diese auf Github und das dazugehörige wissenschaftliche Papier auf Cloudfront (PDF).
 
Das in San Franciso beheimatete OpenAI-Projekt wurde bis im Februar 2018 vom Mitgründer Elon Musk geleitet. Weitere bekannte Unterstützer sind neben Peter Thiel die Unternehmen AWS, Microsoft und Infosys. Am Projekt sind 60 Forscher und Ingenieure im Vollzeit-Pensum beteiligt. (ts)