Cyberkriminelle und staatlich unterstützte Akteure setzen generative Künstliche Intelligenz zunehmend für komplexe Angriffe ein. Das zeigt die neue Ausgabe des "AI Threat Tracker" der Google Threat Intelligence Group (GTIG), die gemeinsam mit Mandiant die Entwicklungen im vergangenen Quartal untersucht hat. Demnach beschränkt sich der Einsatz von KI längst nicht mehr auf die Unterstützung einzelner Arbeitsschritte. Autonome Agenten und miteinander verknüpfte Frameworks würden zunehmend ganze Phasen eines Angriffs übernehmen.
Besonders bemerkenswert ist ein von GTIG dokumentierter Fall, in dem ein Angreifer das KI-Framework "exploit_agent" einsetzte. Das System verglich laut Analyse kontinuierlich den Quellcode vor und nach der Veröffentlichung eines Sicherheitspatches, um die behobene Schwachstelle zu identifizieren. Anschliessend habe es daraus automatisch einen funktionsfähigen Exploit entwickelt – ohne menschliches Eingreifen. Laut GTIG handelt es sich um den ersten beobachteten Fall dieser Art.
Auch frei verfügbare KI-Agenten für Penetrationstests kämen bei realen Angriffen zum Einsatz. Dazu zählen Frameworks wie Cairn, Pentagi und CyberstrikeAI. GTIG beobachtete unter anderem den Einsatz von Cairn bei einem Angriff auf den US-amerikanischen Luft- und Raumfahrtsektor. Solche Werkzeuge könnten mehrere Schritte eines Angriffs automatisieren und beschleunigen.
Neben Cyberangriffen nutzen staatlich unterstützte Gruppen grosse Sprachmodelle auch für Spionage und Informationsoperationen, wie GTIG anmerkt. Dazu gehören die Analyse gestohlener Daten, die Recherche potenzieller Ziele sowie die Erstellung und Verwaltung synthetischer Identitäten. In einem dokumentierten Fall wurde etwa die Gemini-API eingesetzt, um eine Plattform zur Verwaltung von mehr als 100'000 synthetischen Konten aufzubauen.
Angriffszyklen werden kürzer
Die Beobachtungen zeigen eine Entwicklung weg von der manuellen Nutzung einzelner KI-Werkzeuge hin zu autonomen, mehrstufigen Angriffsketten. Dadurch könnten Angreifer Schwachstellen schneller untersuchen, Exploits entwickeln und weitere Angriffsschritte koordinieren. Auch der Missbrauch gestohlener KI-Zugangsdaten und Cloud-Ressourcen zur Weitervermarktung des Zugangs zu leistungsfähigen Modellen nimmt laut Bericht zu.
Google gibt an, den Missbrauch eigener KI-Dienste erkannt und betroffene Konten sowie Projekte deaktiviert zu haben. Zudem seien die Sicherheitsvorkehrungen auf Basis der Erkenntnisse verstärkt worden. Der Bericht stützt sich auf Daten aus Incident-Response-Einsätzen von Mandiant, die globale Beobachtung von Bedrohungsakteuren und die Sicherheitsüberwachung der Google-Plattformen.