Das US-Unternehmen Hugging Face hat einen Sicherheitsvorfall veröffentlicht, bei dem Angreifer Zugriff auf Teile der internen Produktionsumgebung erlangten. Nach Angaben des Unternehmens unterscheidet sich der Vorfall von bisherigen Angriffen dadurch, dass die Attacke vollständig durch ein autonomes KI-Agentensystem gesteuert worden sei.

Die Angreifer verschafften sich laut Hugging Face Zugriff auf eine begrenzte Anzahl interner Datensätze sowie auf mehrere von Diensten verwendete Zugangsdaten. Ob Partner- oder Kundendaten betroffen sind, werde derzeit noch untersucht. Hinweise auf Manipulationen an öffentlich zugänglichen Modellen, Datensätzen oder der Software-Lieferkette habe man bislang nicht gefunden.

Der erste Zugriff erfolgte gemäss Hugging Face über die Pipeline für Datenverarbeitung der Plattform. Ein manipuliertes Dataset habe zwei Schwachstellen in der Verarbeitung ausgenutzt und dadurch Code auf einem Verarbeitungsserver ausführen können.

Anschliessend hätten die Angreifer Zugriff auf weitere Systeme erlangt, Cloud- und Cluster-Zugangsdaten abgegriffen und sich innerhalb mehrerer interner Cluster bewegt. Die Attacke habe über ein Netzwerk kurzlebiger Sandbox-Umgebungen mit zahlreichen automatisierten Aktionen stattgefunden.

Hugging Face habe die betroffenen Schwachstellen geschlossen, kompromittierte Systeme neu aufgebaut und betroffene Zugangsdaten sowie Tokens ausgetauscht. Zudem wurden zusätzliche Sicherheitskontrollen für die interne Infrastruktur eingeführt. Das Unternehmen arbeitet nach eigenen Angaben mit externen Forensikspezialistinnen und -spezialisten zusammen und hat den Vorfall an Strafverfolgungsbehörden gemeldet.

Neben dem Einsatz von KI durch die Angreifer setzte Hugging Face nach eigenen Angaben auch bei der forensischen Analyse auf KI-Werkzeuge. Ein eigenes Erkennungssystem habe den Vorfall zunächst mithilfe von KI-gestützter Auswertung von Sicherheitsdaten erkannt.

Für die anschliessende Untersuchung analysierte das Unternehmen mehr als 17'000 aufgezeichnete Ereignisse mit KI-basierten Analyseagenten. Dadurch habe sich der Ablauf des Angriffs rekonstruieren und relevante Indikatoren schneller identifizieren lassen.