Das neue KI-Modell "Claude Mythos Preview" hat laut Anthropic schon viele schwerwiegende Sicherheitslücken in Software gefunden, unter anderem eine 27 Jahre alte Sicherheitslücke in einem viel genutzten Betriebssystem.

Das neue KI-Modell sei so gut darin, bisher unentdeckte Software-Schwachstellen zu finden, dass es in den falschen Händen zu einer verheerenden Cyberwaffe werden könnte, sagt Anthropic selbst. Deshalb wolle man es nicht öffentlich machen, lasse aber Unternehmen wie Apple, Amazon und Microsoft damit Sicherheitslücken in deren Programmen suchen und stopfen. Unter den weiteren Kooperationspartnern sind die Linux-Stiftung, die IT-Sicherheitsfirmen Crowdstrike und Palo Alto Networks sowie der Netzwerk-Spezialist Cisco.

Das KI-Modell Claude Mythos Preview fand unter anderem eine 27 Jahre alte Schwachstelle im als besonders sicher geltenden Betriebssystem OpenBSD, wie Anthropic mitteilte. Insgesamt habe man mit Mythos bereits "tausende" schwerwiegende Schwachstellen entdeckt, auch in allen breit genutzten Betriebssystemen und Webbrowsern. In der Videosoftware FFmpeg spürte das Modell demnach eine seit 16 Jahren schlummernde Lücke auf.

Mythos Preview sei auch in der Lage gewesen, binnen weniger Stunden Exploits, also Programme zum Ausnutzen dieser Schwachstellen zu entwickeln. Experten hätten dafür laut Anthropic wohl mehrere Wochen gebraucht.

Einer frühen Version der Software wurde in einem Versuch die Aufgabe gestellt, aus einer abgeschirmten Computer-Umgebung auszubrechen und das dem Tester zu melden. Die Software umging laut Anthropic die Sicherheitsvorkehrungen, verschaffte sich selbst weitreichenden Internet-Zugang und schickte einem Mitarbeiter eine überraschende E-Mail, während dieser mit einem Sandwich im Park sass.

Man habe das Modell nicht speziell darauf trainiert, das alles zu können, hiess es weiter. Mit dem schnellen Fortschritt bei Künstlicher Intelligenz sei davon auszugehen, dass solche Fähigkeiten recht bald auch Online-Angreifern zur Verfügung stehen könnten, warnte Anthropic.