Eine neue Studie der Cybersicherheitsfirma Rubrik Zero Labs beschreibt die rasante Adoption von KI-Systemen in Unternehmen und identifiziert eine Kluft zwischen Innovationspotenzial und Sicherheit. Die Umfrage unter über 1600 IT- und Security-Verantwortlichen weltweit zeigt, dass Firmen KI-Agenten für operative Prozesse einsetzen, ohne dafür die nötigen Kontrollmechanismen etabliert zu haben.

Unter den Befragten geben 23% an, eine komplette Übersicht der KI-Agenten zu haben, während 57% eine stark Übersicht besitzen. Zudem verbringen 81% mehr Zeit mit der Überwachung, als sie einsparen. Ein Befund deutet an, dass das Design von agentischen Systemen zu einer Abhängigkeit führt: 87% der Befragten im EMEA-Raum seien nicht in der Lage, Aktionen von KI-Agenten rückgängig zu machen, ohne Systemstörungen zu riskieren.

Kavitha Mariappan, Chief Transformation Officer bei Rubrik, fasst die Situation zusammen: "Die Einführung von KI läuft schneller als unsere Fähigkeit, sie zu kontrollieren. Unternehmen kämpfen, weil sie Systeme eingeführt haben, die sie nicht vollständig beobachten, steuern oder wiederherstellen können." Die Gefahr werde durch die Verbreitung von "Non-Human Identities" verstärkt – autonom agierende Konten mit dauerhaftem Zugriff und minimaler Aufsicht. Diese verfügen oft nicht über eine Mehrfaktorauthentifizierung.

Rubrik Zero Labs empfiehlt einige Massnahmen, um die Sicherheit agentischer Systeme zu gewährleisten. Unternehmen sollten eine Protokollierung aller Agentenaktivitäten einführen, um Transparenz und Nachvollziehbarkeit zu schaffen. Echtzeit-Filter und LLM-Firewalls helfen, Manipulationsversuche wie Prompt-Injection abzuwehren.