Ein KI-Modell hat offenbar erstmals eigenständig ein theoretisches Browser-Risiko mit einer funktionierenden Ransomware-Technik verknüpft. Diese zweifelhafte Leistung schreiben die Forschenden von Check Point Research dem chinesischen KI-Modell Deepseek V4 zu, wie es in einem Blogbeitrag heisst.

Die Forschenden wollen den Quellcode der Malware in einem Beispieldatensatz mit fast 3000 Dateien gefunden haben. Alle Files liessen sich mit Deepseek in Verbindung bringen, so Check Point Research. Eine Python-Flask-Anwendung habe sich als besonders potent erwiesen: Sie versuchte, Keylogging, den Diebstahl von Anmeldedaten, Webcam-Aufnahmen sowie ein Lösegeld-Overlay auf einer einzigen Website unterzubringen. Diese Zugriffe würden jedoch durch die meisten Browser blockiert. Allerdings versuchte die KI für einen Angriff auch, die legitime Browser-Schnittstelle "showDirectoryPicker()" aufzurufen, die typischerweise nicht blockiert werde. Über den Aufruf werde es einer Website erlaubt, Dateien aus einem vom Nutzer ausgewählten Ordner zu lesen, zu ändern und zu entnehmen.

Check Point Research hat nach eigenen Angaben die Technik unter Laborbedingungen getestet: Deepseek V4 wurde mit der Aufgabe betraut, ein KI-Tool zur Bildoptimierung namens "AI Avatar Enhancer" zu entwickeln. Im Test unter Verwendung des Wortes "Ransomware" habe das Modell die Arbeit verweigert. Als jedoch eine neutrale Formulierung gewählt wurde, generierte es einen durchweg funktionierenden, browserbasierten Ransomware-Code. Deepseek beschrieb die Ausgabe selbst als "eine ausgeklügelte Falle, die eine überzeugende KI-Upscaler-Oberfläche mit versteckten, Ransomware-ähnlichen Verhaltensweisen kombiniert".

Im Labor konnte Check Point nachweisen, dass die Malware mit Chrome 132 und 148 ohne eine spezifische Sicherheitslücke funktioniert. Benutzende müssen der infizierten Website lediglich gestatten, auf ein Verzeichnis auf dem PC oder Smartphone zuzugreifen. Der Safari-Browser besitze die Schnittstelle nicht, so dass Apple-Userinnen und -User für einmal sicher sind, so die Forschenden.

Für Eli Smadja, Group Manager bei Check Point Research, ist der Premierenfund der Beginn eines grundlegenden Wandels in der Art und Weise, wie neue Cyberangriffe entstehen. "Zum ersten Mal haben wir Beweise dafür, dass ein KI-Modell eigenständig legitime Plattformfunktionen analysieren und eine funktionierende Angriffstechnik aufdecken kann. Darüber konnten Fachleute bisher nur theoretisch spekulieren, ohne zu wissen, dass die zugrunde liegende API überhaupt existiert", kommentiert er. Die Zukunft der KI-Sicherheit dürfe nicht darauf beruhen, dass Modelle offensichtlich böswillige Anfragen ablehnen, doppelt er nach.