Der AI Act ist kaum unter Dach und Fach, schon soll er ausgehöhlt werden, zumindest wenn es nach den EU-Mitgliedsstaaten geht. Der Rat der EU, wo sich die Minister der EU-Länder beraten, will für die automatisierte Gesichtserkennung weitreichendere Befugnisse, als im mündlichen Kompromiss vorgesehen war. In einem Entwurf aus dem Rat sind etwa kaum mehr Einschränkungen für die nachträgliche Identifikation über Gesichtsbilder vorgesehen.

Automatisierte Gesichtserkennung war ein wichtiger Kritikpunkt aus der Zivilgesellschaft und von EU-Parlamentariern, als der AI Act diskutiert wurde. Schon der ursprüngliche mündliche Kompromiss wurde von ihnen als Niederlage wahrgenommen. Sie sehen sich nun vom Rat der EU hintergangen, wie 'Netzpolitik' berichtet. Dieser hat die Bestimmungen nämlich weiter aufgeweicht.

Es geht vor allem darum, dass Aufnahmen von Überwachungskameras praktisch ohne Einschränkungen nachträglich zur Identifizierung von Personen ausgewertet werden können. Im Entwurf ist nur noch die Rede davon, dass ein System nicht ohne Zusammenhang mit Straftat, Verfahren oder der Gefahr einer Straftat eingesetzt werden dürfe. Damit wird der richterliche Vorbehalt in Frage gestellt, also dass ein Richter vorab einwilligen muss. Zudem fällt der Deliktskatalog weg, eine Bestimmung, bei welchen Straftaten das System genutzt werden darf.

'Netzpolitik' hat den Entwurf publiziert. Die Vorschläge sind weitgehend und sorgen etwa in Deutschland für deutliche Kritik aus Kreisen der Zivilgesellschaft. Das auf digitale Freiheitsrechte spezialisierte Medium spricht von einer Gefahr biometrischer Massenüberwachung.