Das Security-Forschungsteam von Tenable hat sich mit der Frage beschäftigt, ob es möglich ist, die chinesische Hype-KI Deepseek dazu zu bringen, Malware, genauer gesagt einen Keylogger und eine Ransomware, zu schreiben. In einem detaillierten Blogbeitrag berichten sie von ihren Erfahrungen.

Auf die erste Anweisung dazu, einen Keylogger zu schreiben, weigerte sich Deepseek, wie das ja so sein sollte. Allerdings, so die Tenable-Leute, sei es sehr einfach, die eingebauten Sicherheitsbarrieren der chinesischen KI mit spezifischen Prompts zu umgehen. Zum Beispiel, indem man ihr sage, es handle sich um ein Beispiel zu Lehrzwecken.

So getäuscht begann Deepseek damit, die Aufgabe anzupacken. Weil es sich um ein KI-System handelt, das seine Denkprozesse offenlegt und beschreibt, können diese verfolgt werden. Zuerst fragte sich die KI laut Tenable was ein Keylogger ist. Dann ging sie die Aufgabe Schritt für Schritt an. Sie "erinnerte" sich daran, dass man in C++ gewisse Funktionen nützen kann, um Keyboard-Eingaben aufzuzeichnen, war sich aber nicht sicher, ob man einen solchen Keylogger auch verbergen könnte.

Schliesslich skizzierte Deepseek ein Projekt für einen Keylogger und nach einigem Hin und Her schrieb die KI laut Tenable auch tatsächlich Code dafür. Dieser war allerdings fehlerhaft und beinhaltete auch "halluzinierte" Befehle. Deepseek konnte die Fehler zwar nicht selbst korrigieren, war aber laut dem Report "nur vier schwere Fehler" davon entfernt, einen funktionierenden Keylogger zu schreiben. Nachdem das Team die Fehler korrigiert hatte, konnte die Malware kompiliert werden und funktionierte.

Dieser Keylogger wäre zwar für User und Userinnen in der Taskliste von Windows gut sichtbar gewesen, aber nach einigen weiteren Prompts produzierte Deepseek auch (wiederum leicht fehlerhaften) Code, um den Logger besser zu verbergen.

Beim Versuch, Deepseek eine Ransomware schreiben zu lassen, machte das Tenable-Team ganz ähnliche Erfahrungen. Auch hier produzierte die KI letztlich einen einfachen und nach Korrekturen ausführbaren Code.

Deepseek könne zwar keinen fehlerfreien Code für Malware produzieren, könne aber trotzdem auch für Cyberkriminelle mit geringen Programmierkenntnissen nützlich sein, so das Fazit von Tenable. Einerseits könne die KI eine grundlegende Struktur für eine Malware vorschlagen. Als "Reasoning" KI nenne Deepseek zudem Quellen, nützliche Techniken und auch Suchbegriffe, so dass auch unerfahrene Hacker sich einfacher das nötige Grundwissen aneignen könnten. Deshalb glaube man, dass Deepseek durchaus dafür sorgen könnte, dass in Zukunft noch mehr Kriminelle dazu fähig sein werden, Schadcode zu schreiben.