Die EU-Staaten haben erstmals umfassende Regeln für den Einsatz von KI festgelegt. Sie wollen so unter anderem sicherstellen, dass KI-Systeme sicher genutzt werden können und dass diese die Grundrechte von Bürgerinnen und Bürgern einhalten. Dies teilte der Rat der EU-Staaten mit.

Zugleich solle Innovation gefördert werden, hiess es. "Die EU ist damit auf sehr gutem Weg, den weltweit ersten verbindlichen Massstab für vertrauenswürdige KI zu setzen", sagte der deutsche Justizminister Marco Buschmann.

Buschmann sieht jedoch etwa bei der Sicherung der Anonymität im öffentlichen Raum und der Transparenz beim Einsatz von KI-Systemen Verbesserungsbedarf. Bevor die neuen Regeln tatsächlich gelten, müssen sich die EU-Staaten noch mit dem Europaparlament auf eine Linie verständigen.

Die EU-Kommission hatte das Gesetz im April 2021 mit dem Ziel vorgeschlagen, globale Standards zu setzen. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein.

Für Regelverstösse sind hohe Strafen vorgesehen. Die Behörde will vor allem die Grundlage dafür schaffen, dass Nutzer KI-Anwendungen vertrauen können.

Der EU-Konsumentenschutzverband Beuc beklagte, die Entscheidung der EU-Staaten lasse zu viele wichtige Fragen offen, etwa die Gesichtserkennung durch private Unternehmen an öffentlichen Orten. Zudem seien Bestimmungen verwässert worden, die Systeme als hochriskant einstuften.

Um die Regulierung von KI wird in der EU schon seit Ende 2021 gerungen. Zivilrechts­­organisationen hatten damals deutlich strengere Massnahmen gefordert. Fast parallel dazu verabschiedete die EU neue Regeln zur Produkthaftung und harmonisierte Haftungsvorschriften rund um KI.