Ringen um die KI-Regulierung in der EU

3. Dezember 2021 um 08:08
image

Noch wird einige Zeit vergehen, bis ein KI-Gesetz steht. Zivilrechts­­organisationen fordern deutlich strengere Massnahmen.

Mit dem Artificial Intelligence Act (AIA) der EU sollen Vorschriften über Künstliche Intelligenz in der EU harmonisiert werden. Bei der Regulierung von KI-Systemen respektive deren Einsatz setzt die EU auf einen Risiko-basierten Ansatz: Während Höchstrisiko-Anwendungen ganz verboten werden sollen, bestehen für solche mit hohen und geringen Risiken unterschiedliche Pflichten. 
In einem gemeinsamen Statement haben sich über 100 Zivilrechtsorganisationen zur geplanten KI-Regulierung geäussert. Der Gesetzesentwurf reiche nicht aus, um die Grundrechte vor KI-bedingten Schäden wie massenhafter Diskriminierung und Vorurteilen zu schützen, heisst es im "Civil Society Statement", das auch von der Digitalen Gesellschaft Schweiz unterzeichnet wurde (PDF). 
KI-Systeme könnten strukturelle Machtungleichgewichte verschärfen, "wobei die Schäden oft die am stärksten Ausgegrenzten in der Gesellschaft treffen", heisst es in der Erklärung vom 30. November. Ziel müsse ein Gesetz sein, das die Grundrechte in den Vordergrund stellt. Dazu listen die Autoren eine Reihe von Forderungen an die EU sowie die Mitgliedsländer auf. Mit diesen soll die Gesetzesvorlage erweitert und präzisiert werden.
Dabei geht es etwa um die Hochrisiko-Systeme. Dieser Risiko-Ansatz funktioniere nicht, finden die Unterzeichner. Denn er beziehe nicht ein, dass das Risiko auch vom Kontext abhängt, in dem ein System eingesetzt wird. Das Risiko könne im Vorfeld nicht vollständig bestimmt werden.
Weiter verlangen die Organisationen, dass Social-Scoring-Systeme sowie biometrische Fernidentifizierung in öffentlich zugänglichen Räumen, vollständig verboten werden, und zwar für alle Akteure. Zudem fordern sie ein Verbot von Systemen zur Vorhersage zukünftiger krimineller Handlungen (Predicitve Policing) und Systemen zur Erstellung von Profilen und Risikobewertungen im Zusammenhang mit Migration.

Noch nichts in Stein gemeisselt

Die Vorschläge für das neue Gesetz über künstliche Intelligenz, der Artificial Intelligence Act (AIA), wurde im April 2021 von der Europäischen Kommission vorgelegt. Der Entwurf hat bereits für einige Diskussionen gesorgt und wird dies wohl auch noch eine Weile tun.
Bis der endgültige Wortlaut vereinbart ist, kann es noch dauern. Zum Vergleich: Bei der Datenschutzverordnung hat es vom Vorschlag bis zur Verabschiedung über vier Jahre gedauert.
Laut einem Bericht, der 'Euractiv' vorliegt, bekräftigten die EU-Mitgliedsländer ihre Zuständigkeit für nationale Sicherheitsfragen. KI-Systeme, die ausschliesslich für militärische Zwecke entwickelt werden, sollen aus dem Anwendungsbereich der Verordnung herausgenommen werden sollten. Ebenfalls ausgeschlossen werden sollen demnach Systeme, die ausschliesslich zum Zweck der wissenschaftlichen Forschung entwickelt wurden.
Mehrere Länder hätten zudem betont, dass eine Forderung nach vollständigen und fehlerfreien Datensätzen weitgehend unrealistisch sein könnte.
Der Kommissionsvorschlag sieht ein Verbot von Social Scoring durch Behörden vor. Die EU-Präsidentschaft schlägt laut 'Euractiv' nun vor, dieses Verbot auch auf private Einrichtungen auszuweiten. Darüber hinaus sei die Definition des verbotenen Einsatzes um die "Ausnutzung einer sozialen oder wirtschaftlichen Situation" zu erweitern. Diese Änderungen könnten Auswirkungen auf den Finanzsektor haben, heisst es im Bericht, da beispielsweise die Zinssätze für Kredite derzeit auf der Grundlage der Rückzahlungswahrscheinlichkeit berechnet werden. 

Loading

Mehr erfahren

Mehr zum Thema

image

Erstes deutsches Bundesland setzt einen KI-Beirat ein

In Sachsen soll sich ein Beirat für digitale Ethik mit dem Einsatz von KI befassen. Ein solcher sei "dringend notwendig", so die Landesregierung.

publiziert am 15.4.2024
image

Coop setzt auf KI und neue SAP-Lösung

Eine zusammen mit SAP entwickelte Warenversorgungs-Lösung wird gerade ausgerollt. Eine eigene KI für Mitarbeitende ist ebenfalls geplant.

publiziert am 12.4.2024
image

Weshalb IoT für Künstliche Intelligenz wichtig ist

Big Tech sammelt viele persönliche Informationen. Mit dem Aufkommen von IoT-Geräten werden aber auch immer mehr technische Daten dazukommen.

publiziert am 12.4.2024
image

Google testet KI-Antworten in Suchergebnissen

Steht bald ein grosses Update für die Suchmaschine bevor? Google mischt testweise KI-generierte Antworten unter die Suchresultate.

publiziert am 11.4.2024