Mistral-CEO sieht Nachlässigkeit bei KI-Kontrolle

30. September 2026 um 14:13
image
Arthur Mensch. Foto: Mistral

Die Entwicklerfirmen investierten nicht genug in Kontrollmechanismen für KI-Modelle, meint Mistral-Mitgründer Arthur Mensch. Er warnt daher vor Panikmache.

Eigenständige Cyberangriffe von KI-Agenten zeugen von nachlässigen Schutzmechanismen der Entwicklerfirmen. Diese Aussage stammt von Mistral-Mitbegründer Arthur Mensch. Er äusserte sich gegenüber dem US-Nachrichtensender 'CNBC' zu den jüngsten Berichten über Vorfälle mit ausser Kontrolle geratenen KI-Agenten.
Für Mensch sei es unerlässlich, Systeme zu entwickeln, die die KI-Agenten unter Kontrolle halten können. "Wenn man [KI-Agenten] viele Werkzeuge an die Hand gibt, sind diese Systeme sehr dynamisch, sodass sie Dinge tun können, mit denen man nicht rechnet", sagte er. Mistral stelle seinen Kundinnen und Kunden Kontrollsysteme zur Verfügung, um Vorfälle wie die Hacks von OpenAI, Anthrophic und zum Beispiel Meta zu verhindern.

Kein Entwicklungsstopp bei Mistral

Als Reaktion auf die autonomen KI-Agenten stellten die US-Anbieter in Aussicht, die KI-Entwicklung zu pausieren. Davon will Mensch nichts wissen. Mistral habe nicht vor, die Entwicklung seiner fortschrittlichen Modelle zu verlangsamen, sagte er 'CNBC'. Denn der Vorsprung der US-Konkurrenz sei "nicht besonders gross".
Das französische KI-Unternehmen ist zuversichtlich, mit seinen KI-Modellen die Lücke zu den US-Anbietern schliessen zu können, wie Mensch ausführte. "Wir haben das erforderliche Kapital beschafft, um die Rechenleistung zu skalieren, die wir für das Training grösserer und leistungsfähigerer Modelle benötigen, damit wir unser Schicksal selbst in die Hand nehmen können", sagte er in Anspielung auf die jüngste Finanzierungsrunde, in der Mistral 3 Milliarden Euro eingesammelt hatte.

Loading

Kommentare

Anmeldung wird geprüft …

Mehr zum Thema

image

PwC und Microsoft: KI mit Geschäftsnutzen

Microsoft zeichnet PwC weltweit und in der EMEA-Region aus. Im Fokus der Zusammenarbeit steht die Frage, wie Cloud und KI im Unternehmen Geschäftsnutzen schaffen. PwC Schweiz verbindet dafür lokale Kundennähe mit globaler Expertise.

image

Business Bytes mit Lukas Hebeisen: Die Zukunft ist hybrid

Im Format Business Bytes äussert sich in dieser Folge Lukas Hebeisen, Head of Cloud & Data Center Solutions, Swisscom Geschäftskunden, zu aktuellen Mythen aus dem ICT-Universum. Thema: Warum digitale Souveränität nicht zwischen Schweizer Cloud und Hyperscaler entscheidet, sondern auf die richtige Kombination verschiedener Welten setzt.

1
image

KI im Unternehmen: Wer behält die Kontrolle?

Künstliche Intelligenz hält Einzug in Schweizer Unternehmen. Doch mit der Nutzung wachsen auch die Anforderungen an Datenschutz, Governance und Kostenkontrolle. LAKE Solutions zeigt, wie sich KI sicher und wirtschaftlich als Business Service betreiben lässt.

image

Microsoft-Panne schränkt Schweizer Geschäftsalltag ein

Mehrere Schweizer Unternehmen melden Beeinträchtigungen aufgrund von Störungen bei Microsoft. Die Behebung der Probleme läuft weiterhin.

publiziert am 13.11.2026