Die EU will den Einsatz von KI regulieren und hat dazu im April 2021 einen Gesetzesentwurf vorgelegt. Nun hat das Europäische Parlament in einer allerdings nicht bindenden Resolution für ein vollständiges Verbot der biometrischen Massenüberwachung gestimmt. Um Diskriminierung zu bekämpfen und das Recht auf Privatsphäre zu gewährleisten, fordern die EU-Abgeordneten strenge Regeln, was den KI-Einsatz in der Strafverfolgung angeht, heisst es in einer Mitteilung.

Die Abgeordneten weisen etwa darauf hin, dass KI-gestützte Identifizierungssysteme bereits jetzt ethnische Minderheiten, LGBTI-Personen, ältere Menschen und Frauen in höherem Masse falsch identifizieren. Dies sei insbesondere im Zusammenhang mit der Strafverfolgung und der Justiz bedenklich.

Sie fordern ein dauerhaftes Verbot der automatischen Erkennung von Personen im öffentlichen Raum. Bürger sollen nur dann überwacht werden, wenn sie einer Straftat verdächtigt werden, so die Mitteilung weiter. Das Parlament fordert auch ein Verbot der Nutzung privater Gesichtserkennungsdatenbanken, wie beispielsweise die umstrittene Clearview-Datenbank, die bereits eingesetzt wird. Auch solle die vorausschauenden Polizeiarbeit auf der Grundlage von Verhaltensdaten – Predictive Policing – verboten werden. Weiter fordern die Abgeordneten ein Verbot von Social-Scoring-Systemen, die versuchen, die Vertrauenswürdigkeit von Bürgern auf der Grundlage ihres Verhaltens oder ihrer Persönlichkeit zu bewerten.

Ein Gesetzesentwurf zur Regulierung der risikoreichen Nutzung von KI-Technologien sieht bereits ein Verbot von Social Scoring und von kommerziellen KI-Anwendungen für die Massenüberwachung vor. Für die die öffentliche Sicherheit würden aber einige Ausnahmen gelten. 

"Zum ersten Mal überhaupt fordern wir ein Moratorium für den Einsatz von Gesichtserkennungssystemen zu Strafverfolgungszwecken, da sich die Technologie als ineffektiv erwiesen hat und oft zu diskriminierenden Ergebnissen führt", so EU-Parlamentarier Petar Vitanov. "Wir sprechen uns klar gegen eine vorausschauende Polizeiarbeit auf der Grundlage von KI sowie gegen jede Verarbeitung biometrischer Daten aus, die zu einer Massenüberwachung führt. Dies ist ein grosser Sieg für alle europäischen Bürger."