Der Boom der grossen Sprachmodelle (LLMs) ist längst bei Cyberkriminellen angekommen. Auch in der Schweiz sind offenbar überzeugend formulierte Phishing-Mails im Umlauf, die ChatGPT geschrieben haben soll. Dem Tool wurden von OpenAI indes Grenzen gesetzt: Es soll nicht "wissentlich" Malware generieren oder Hatepostings schreiben. Nun werben aber Kriminelle für die Sprachtools WormGPT und FraudGPT, die genau dies berherrschen sollen.

WormGPT wurde von Daniel Kelley entdeckt, der das Tool bat, eine Mail zu schreiben. "Die Ergebnisse waren beunruhigend", schreibt der ehemalige Black Hat Hacker in seiner Untersuchung. Das System produzierte "eine E-Mail, die nicht nur bemerkenswert überzeugend, sondern auch strategisch raffiniert war."

FraudGPT soll neben der Texterzeugung auch unerkennbare Malware erstellen und Schwachstellen finden können, behaupten die Urheber. Laut Rakesh Krishnan, der das Tool entdeckt hat, zeigen die Kriminellen die Möglichkeiten in einem Werbevideo. Sie behaupten demnach, dass sie bereits Hunderte von Kunden hätte.

In Forenbeiträgen behaupteten die WormGPT-Entwickler, das System basiere auf dem GPTJ-Sprachmodell, einem Open-Source-Modell, das im Jahr 2021 lanciert wurde. Laut Daniel Kelley haben sie die Datensätze aber nicht offengelegt. Auch sonst stellen sich Fragen zur Authentizität der Bots: Schliesslich könnten die Kriminellen auch mit Fakes versuchen, das schnelle Geld zu machen, indem sie ihre kriminellen Kunden übers Ohr hauen.

Laut Sergey Shykevich von Check Point gibt es aber Hinweise darauf, dass zumindest WormGPT bereits im Umlauf ist. Dies schreibt 'Wired'. Der Verkäufer, der hinter dem Tool steht, ist laut Shykevich "relativ zuverlässig" und hat eine Vergangenheit in Cybercrime-Foren. FraudGPT hingegen hält der Security-Spezialist eher für einen Abzockversuch. Der Verkäufer behaupte auch Systeme namens DarkBard und DarkBert entwickelt zu haben.

Die Kriminellen stehen aber in Sachen generative KI erst am Anfang. Swisscom hat bereits im Frühling gewarnt: Durch die Fähigkeit von Sprachmodellen, Programmcodes auf Schwachstellen hin zu analysieren und Malware zur Ausnutzung der gefundenen Schwachstellen zu programmieren, sinke das notwendige Know-how von Angreifern zur Durchführung komplexer Angriffe. Es droht eine Zunahme von Angriffen aber auch eine höhere Qualität der Kampagnen.