Nach Angaben des EU-Parlaments handelt es sich beim nun beschlossenen AI Act um das weltweit erste KI-Gesetz. Die EU-Kommission hatte das Gesetz im April 2021 vorgeschlagen. Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden.

Zuletzt wären die Verhandlungen allerdings fast gescheitert – an der Frage der Regulierung von sogenannten Basismodellen. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählt etwa GPT.

Deutschland, Frankreich und Italien hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. Aber auch die geplanten Regeln zur Gesichtserkennung durch KI, etwa zu Zwecken der Nationalen Sicherheit, sorgten für Streit.

Nun werden bestimmte Anwendungen komplett verboten, etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Auch das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken soll nicht erlaubt sein. Allerdings wird es Ausnahmen für biometrische Identifizierungen im öffentlichen Raum in Echtzeit geben, etwa bei der Gefahr eines Terroranschlags oder bei der gezielten Suche nach Opfern von Menschenhandel. Um diesen Punkt wurde intensiv gerungen, das EU-Parlament wollte eigentlich ein komplettes Verbot.

"Der AI Act allein wird nicht ausreichen", kommentiert Angela Müller von Algorithmwatch das beschlossene Gesetz. Es sei nur ein Puzzlestück unter vielen, die nötig seien, "um Menschen und Gesellschaften vor den grundlegenden Auswirkungen zu schützen, die KI-Systeme auf unsere Rechte, unsere Demokratie und die gesellschaftliche Machtverteilung haben können", so Angela Müller, Leiterin von Algorithmwatch Schweiz.

Auf diesen Schutz solle sich die Schweiz konzentrieren, "wenn der Bundesrat wie geplant nächstes Jahr den Regulierungsbedarf zu KI analysiert", sagt Angela Müller. Die Schweiz solle sich nicht darauf verlassen, dass ein Trittbrettfahren bei der EU und ihrer KI-Verordnung ausreichen werde, um Grundrechte im Kontext von KI zu schützen.

Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen, das gilt aber als Formsache. Gelten soll das Gesetz dann zwei Jahre nach Inkrafttreten.