Die US-amerikanische KI-Firma Anthropic zieht in ihrem Streit mit dem Pentagon um die Verwendung von KI im Militär vor Gericht. Das Unternehmen klagt gegen die Einstufung als Lieferketten-Risiko für die nationale Sicherheit, was Anthropic weitgehend von Regierungsaufträgen ausschliesst.

Anthropic beharrt darauf, dass KI-Modelle des Unternehmens nicht zur Massenüberwachung von Amerikanern sowie in autonomen Waffensystemen genutzt werden dürfen. Das Verteidigungsministerium forderte hingegen die Rechte für "jede rechtmässige Nutzung" ein.

Anthropic argumentiert in der Klage, das Vorgehen der US-Regierung verletzte das Recht des Unternehmens auf freie Meinungsäusserung, weil es für seine Grundsätze bestraft werde. Es ist höchst ungewöhnlich, dass eine US-Firma zum "Supply-Chain Risk to National Security" erklärt wird. US-Präsident Donald Trump ordnete an, dass alle US-Bundesbehörden die Nutzung von Anthropic-Technologie einstellen sollen. Anthropic war bisher die einzige KI-Firma, deren Software auch für eine als vertraulich eingestufte Nutzung im US-Militär freigegeben war.

Nach dem Streit mit Anthropic schloss OpenAI eine Vereinbarung mit dem Pentagon. OpenAI-Chef Sam Altman liess sich zwar auf die Bedingungen des Ministeriums ein, versicherte aber später, dass es technische Hürden für den Einsatz zur Massenüberwachung in den USA geben sollte. Die Robotik-Chefin von OpenAI, Caitlin Kalinowski, trat am Wochenende aus Protest gegen den Deal zurück.

Anthropic-Chef Dario Amodei warnt, dass KI es möglich mache, über das Netz verstreute Daten einzelner Menschen in grossem Stil automatisiert zu einem detaillierten Bild ihres Lebens zusammenzusetzen. Zugleich sei KI noch nicht verlässlich genug, um in vollständig autonomen Waffen eingesetzt zu werden. "Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Kämpfer und Zivilisten in Gefahr bringt", schrieb Amodei in einem Blogbeitrag.