Anthropic passt die Regeln rund um den Einsatz seines KI-Modells "Claude Mythos Preview" an, wie das Unternehmen gemäss 'Reuters' mitteilt. Im Rahmen des Programms "Project Glasswing", einer Cybersecurity-Initiative von Anthropic, haben nur ausgewählte Organisationen Zugang zum bislang nicht öffentlich verfügbaren Modell erhalten. Zu den Teilnehmern zählen unter anderem grosse Technologiekonzerne wie Amazon, Microsoft, Nvidia und Apple.

Anthropic erklärte laut 'Reuters', Partner dürften ihre Erkenntnisse neu mit anderen Unternehmen, Branchenverbänden, Behörden, Regulatoren oder auch der Öffentlichkeit teilen, sofern gängige Regeln zur verantwortungsvollen Offenlegung von Sicherheitslücken eingehalten würden.

Zuvor galten restriktivere Vertraulichkeitsregelungen. Diese seien auf Wunsch der teilnehmenden Unternehmen eingeführt worden, um sensible Informationen zu schützen und Missbrauch zu verhindern. Mit zunehmender Reife des Programms habe man die Vorgaben nun angepasst.

Parallel dazu beschäftigen sich auch internationale Behörden mit den möglichen Auswirkungen leistungsfähiger KI-Modelle auf die Cybersicherheit. Wie die Zeitung 'The Guardian' berichtet, will Anthropic das Financial Stability Board (FSB) über die Fähigkeiten und Risiken von Mythos informieren. Das internationale Gremium koordiniert die Aufsicht über die Stabilität des globalen Finanzsystems.

Hintergrund sind laut Bericht Fortschritte des Modells bei automatisierten Cyberangriffen. Das britische AI Security Institute (AISI) spricht von einem "deutlichen Fähigkeitssprung" gegenüber früheren Versionen. Demnach konnte Mythos in mehreren Versuchen eine zuvor ungelöste Cybersecurity-Testaufgabe erfolgreich bewältigen.

Auch das Bundesamt für Cybersicherheit (Bacs) verfolgt die Entwicklung rund um Mythos und warnt davor, dass solche KI-Systeme die Durchführung komplexer Cyberangriffe deutlich vereinfachen könnten.