Eigenständige Cyberangriffe von KI-Agenten zeugen von nachlässigen Schutzmechanismen der Entwicklerfirmen. Diese Aussage stammt von Mistral-Mitbegründer Arthur Mensch. Er äusserte sich gegenüber dem US-Nachrichtensender 'CNBC' zu den jüngsten Berichten über Vorfälle mit ausser Kontrolle geratenen KI-Agenten.
Für Mensch sei es unerlässlich, Systeme zu entwickeln, die die KI-Agenten unter Kontrolle halten können. "Wenn man [KI-Agenten] viele Werkzeuge an die Hand gibt, sind diese Systeme sehr dynamisch, sodass sie Dinge tun können, mit denen man nicht rechnet", sagte er. Mistral stelle seinen Kundinnen und Kunden Kontrollsysteme zur Verfügung, um Vorfälle wie die Hacks von OpenAI, Anthrophic und zum Beispiel Meta zu verhindern.
Kein Entwicklungsstopp bei Mistral
Als Reaktion auf die autonomen KI-Agenten stellten die US-Anbieter in Aussicht, die KI-Entwicklung zu pausieren. Davon will Mensch nichts wissen. Mistral habe nicht vor, die Entwicklung seiner fortschrittlichen Modelle zu verlangsamen, sagte er '
CNBC'. Denn der Vorsprung der US-Konkurrenz sei "nicht besonders gross".
Das französische KI-Unternehmen ist zuversichtlich, mit seinen KI-Modellen die Lücke zu den US-Anbietern schliessen zu können, wie Mensch ausführte. "Wir haben das erforderliche Kapital beschafft, um die Rechenleistung zu skalieren, die wir für das Training grösserer und leistungsfähigerer Modelle benötigen, damit wir unser Schicksal selbst in die Hand nehmen können", sagte er in Anspielung auf die jüngste Finanzierungsrunde, in der
Mistral 3 Milliarden Euro eingesammelt hatte.