Der ChatGPT-Entwickler OpenAI hat nach eigenen Angaben in den vergangenen drei Monaten fünf Desinformationskampagnen von staatlich unterstützten Akteuren gestoppt, welche ChatGPT für betrügerische Aktivitäten nutzen wollten.

OpenAI teilte in einem Blogeintrag mit, die vereitelten Kampagnen seien von Russland, China, dem Iran und der israelischen Handelsgesellschaft STOIC ausgegangen.

Die fraglichen Akteure versuchten demnach, die Sprachmodelle von OpenAI für Aufgaben wie die Generierung von Kommentaren, Artikeln, Profilen in Online-Netzwerken und das Austesten von Codes für Bots und Websites zu nutzen. "Diese Operationen scheinen durch unsere Dienste nicht von deutlich stärkeren Nutzeraktivitäten oder höherer Reichweite profitiert zu haben", erklärte das Unternehmen.

Zu den durchkreuzten Desinformationsversuchen gehörten laut OpenAI "Bad Grammar", eine zuvor unbekannte russische Kampagne, die sich gegen die Ukraine, Moldau, die baltischen Staaten und die USA richtete. Sie nutzte OpenAI-Modelle und -Werkzeuge, um kurze politische Kommentare in Englisch und Russisch auf Telegram zu generieren, wie OpenAI mitteilte.

Das bekannte russische "Doppelgänger"-Netzwerk nutzte die KI von OpenAI, um Kommentare auf Plattformen wie X auf Deutsch, Englisch, Französisch, Italienisch und Polnisch zu erzeugen.

Die chinesische Desinformationsoperation "Spamouflage" hat laut OpenAI die Firmenmodelle missbraucht, um unter anderem Online-Netzwerke zu durchsuchen und mehrsprachige Texte zu generieren.