Die USA, Grossbritannien sowie weitere Länder haben ein detailliertes internationales Abkommen zum Schutz vor dem Missbrauch von Künstlicher Intelligenz unterzeichnet. In dem erarbeiteten Papier kamen die insgesamt 18 Länder überein, dass die breite Öffentlichkeit bei der Entwicklung und Nutzung von KI vor Missbrauch geschützt werden muss.

Das Abkommen richtet sich in erster Linie an die Anbieter von KI-Produkten. In Verbindung mit bestehenden Prinzipien wie "Security by Design" und "Security by Default" zeigt das Dokument, welche Risiken existieren und wie diese in der Entwicklung berücksichtigt werden sollen. Zudem sollen die Betreiber von KI-Lösungen über mögliche Risiken informieren und aufzeigen, wie die Systeme sicher genutzt werden können.

"Dies ist das erste Mal, dass wir eine Bestätigung sehen, dass es nicht nur um coole Funktionen gehen sollte und darum, wie schnell wir sie auf den Markt bringen können", sagte Jen Easterly, die Direktorin der amerikanischen Cybersicherheits- und Infrastrukturbehörde (CISA), gegenüber der Nach­richten­agentur 'Reuters'. Die Richtlinien der Vereinbarung würden wider­spiegeln, dass der Sicherheit bei der Entwicklung von solchen Systemen höchste Priorität eingeräumt werde.

Die Vereinbarung ist allerdings nur unverbindlich und enthält überwiegend allgemeine Empfehlungen, wie etwa die Überwachung von KI-Systemen auf Missbrauch, den Schutz von Daten vor Manipulationen und die Überprüfung von Softwareanbietern. Gemäss der CISA-Direktorin ist es dennoch wichtig, dass sich die Länder darauf einigen konnten, dass die Sicherheit bei KI-Systemen an erster Stelle stehen muss.

Das Abkommen ist die jüngste Initiative in einer Reihe von Versuchen von Regierungen auf der ganzen Welt, mehr Einfluss auf die internationale Entwicklung der KI zu nehmen. Zu den 18 Ländern, die die neuen Richtlinien unterzeichnet haben, gehören neben den USA und Grossbritannien auch Deutschland, Italien, Tschechien, Estland, Polen, Australien, Chile, Israel, Nigeria und Singapur. Die Schweiz gehört noch nicht dazu. Sie hat allerdings kürzlich die "Bletchley-Erklärung" zum Umgang mit KI mitunterzeichnet.