Florian Tramèr: Claude Mythos Preview ist die nächste Generation der Claude‑Modelle von Anthropic – man kann es vereinfacht als das Gegenstück zu ChatGPT bezeichnen. Diese grossen Sprachmodelle haben in den vergangenen Monaten enorme Fortschritte gemacht, vor allem beim Programmieren. Je besser diese Modelle Computer-Code verstehen und schreiben können, desto besser erkennen sie auch Fehler im Code. Solche Bugs können harmlos sein. Teilweise lassen sie sich aber ausnutzen, um Computersysteme anzugreifen. Schon das Vorgängermodell, Claude Opus 4.6, hat überraschend viele sicherheitsrelevante Fehler in komplexer Software wie dem Betriebssystem Linux oder dem Webbrowser Firefox gefunden. Claude Mythos scheint hier noch einmal einen deutlichen Schritt weiterzugehen.

Gemäss Anthropic kann man diesem Modell riesige Mengen an Quellcode geben und dann einfach sagen: "Suche Sicherheitslücken". Irgendwann findet das Modell tatsächlich etwas. Früher brauchte man dafür hochspezialisierte Fachleute oder sehr aufwendige Werkzeuge. Offenbar reicht hier vergleichsweise wenig menschliche Expertise aus. Das ist beeindruckend – und gleichzeitig beunruhigend.

Weil Cyberangriffe dadurch einfacher werden. Ein einzelner Hacker kann plötzlich Tausende Varianten ausprobieren. Wenn ein Angriff fehlschlägt, probiert er oder sie einfach den nächsten. Das erhöht das Risiko für Unternehmen, staatliche Institutionen oder auch Privatpersonen. Besonders wenn solche Modelle günstiger und effizienter werden.

So weit würde ich nicht gehen. Selbst wenn ein Modell eine Schwachstelle findet, sind die Schritte bis zu einem funktionierenden Angriff oft komplex. Es gibt viele Schutzmechanismen, die umgangen werden müssen. Das erfordert weiterhin Fachwissen. Aber weniger erfahrene Angreifer könnten mit Unterstützung solcher Modelle deutlich mehr erreichen als früher. Genau darin liegt die Gefahr.

Das ist die grosse offene Frage. Im besten Fall finden diese KI‑Systeme viele kritische Lücken, bevor kriminelle Hacker sie entdecken. So würde Software insgesamt sicherer. Im schlimmsten Fall gibt es aber so viele neue Schwachstellen, dass die Verteidiger gar nicht mehr nachkommen, diese auszubessern. Ein zentrales Problem ist das Schliessen der Lücken.

Oft werden Lücken im Rahmen eines Softwareupdates geschlossen. Viele Menschen und Organisationen installieren Updates aber entweder nicht oder sehr spät. Wenn plötzlich viel mehr kritische Sicherheitslücken bekannt werden, steigt das Risiko, dass nicht aktualisierte Systeme massenhaft angreifbar sind.

Das ist aktuell noch schwer zu beurteilen, da wir noch zu wenig Informationen haben. Viele der gefundenen Sicherheitslücken sind noch nicht öffentlich dokumentiert, weil sie zuerst geschlossen werden müssen. Erst dann kann man wirklich beurteilen, wie gravierend diese Funde sind. Klar ist aber: Claude Mythos hat Lücken identifiziert, die mit bisherigen Werkzeugen teilweise über Jahre hinweg unentdeckt geblieben waren.

Anthropic scheint selbst noch nicht genau zu wissen, wie weit die Fähigkeiten dieses Modells tatsächlich gehen. In so einer Situation kann es vernünftig sein, das Modell zunächst nur Sicherheitsprofis zur Verfügung zu stellen, um Erfahrungen zu sammeln. Im besten Fall stellt sich später heraus, dass die Risiken überschaubar sind – dann könnte man das Modell irgendwann öffnen. Falls die Sicherheitslücken tatsächlich gravierend sind, braucht es Zeit, um besonders kritische Schwachstellen zu finden und zu beheben.

OpenAI hat bei früheren Modellen eine ähnliche Strategie verfolgt – im Rückblick wirkte das teilweise übertrieben. Heute sehen wir aber, wie schnell sich KI entwickelt hat. Modelle, die vor wenigen Jahren kaum Texte schreiben konnten, finden heute Sicherheitslücken in Betriebssystemen. Ob Anthropic hier zu vorsichtig handelt, wird sich erst im Nachhinein zeigen. Dass grosse Unternehmen wie Google oder Microsoft bei diesem Projekt mitmachen, spricht allerdings dafür, dass mehr dahintersteckt als reines Marketing.

Dieses Risiko besteht, ja. Anthropic scheint eine stark US‑zentrierte Sicherheitslogik zu verfolgen. Europa spielt dabei eine Nebenrolle. Solche Modelle sind potenziell relevant für die nationale Sicherheit, Geheimdienste und das Militär. Wenn der Zugang auf US-Akteure beschränkt bleibt, haben diese Akteure für eine gewisse Zeit einen Vorsprung. Allerdings sehen wir in der KI‑Entwicklung immer wieder, dass andere kommerzielle Anbieter oder auch Open‑Source‑Modelle meist relativ schnell aufholen.

Anthropic sagt selbst, dass sie das Modell nicht speziell für Cybersicherheit, sondern fürs Programmieren trainiert haben. Programmieren eignet sich besonders gut für KI‑Training, weil man Ergebnisse leicht prüfen kann: Code funktioniert oder er funktioniert nicht. Zudem nutzen sehr viele Entwickler Claude aktiv, was Anthropic vermutlich grosse Mengen hochwertiger Trainingsdaten verschafft hat. Dazu kommt, dass Claude Mythos offenbar ein extrem grosses und teures Modell ist – etwas, das sich bislang kaum öffentlich anbieten lässt.

Nein, das glaube ich nicht. Aber sie verändert sich. Menschen werden sich weniger mit einzelnen Codezeilen beschäftigen und stärker mit der Architektur und dem Design von Software. KI wird eines von mehreren Werkzeugen sein, um Sicherheit zu prüfen. Ob Software insgesamt unsicherer wird, ist offen. Einerseits können wir mehr Bugs finden. Andererseits wird mittels KI auch viel mehr Software geschrieben, die oft neue Sicherheitslücken enthält. Es bleibt also ein Wettrennen.

Die grundlegenden Sicherheitsregeln gelten weiterhin: Software regelmässig aktualisieren, vorsichtig mit Zugriffsrechten umgehen und keine unbekannten Programme installieren! Was sich ändert, ist der Aufwand. Angriffe werden gezielter, zahlreicher und raffinierter. Für Unternehmen, die Software entwickeln oder betreiben, wird Sicherheit noch wichtiger – und auch aufwendiger. Claude Mythos ist kein totaler Systemwechsel, aber ein deutliches Signal: Die Spielregeln der Cybersicherheit verschieben sich gerade.