Ringen um die KI-Regulierung in der EU

3. Dezember 2021 um 08:08
image

Noch wird einige Zeit vergehen, bis ein KI-Gesetz steht. Zivilrechts­­organisationen fordern deutlich strengere Massnahmen.

Mit dem Artificial Intelligence Act (AIA) der EU sollen Vorschriften über Künstliche Intelligenz in der EU harmonisiert werden. Bei der Regulierung von KI-Systemen respektive deren Einsatz setzt die EU auf einen Risiko-basierten Ansatz: Während Höchstrisiko-Anwendungen ganz verboten werden sollen, bestehen für solche mit hohen und geringen Risiken unterschiedliche Pflichten. 
In einem gemeinsamen Statement haben sich über 100 Zivilrechtsorganisationen zur geplanten KI-Regulierung geäussert. Der Gesetzesentwurf reiche nicht aus, um die Grundrechte vor KI-bedingten Schäden wie massenhafter Diskriminierung und Vorurteilen zu schützen, heisst es im "Civil Society Statement", das auch von der Digitalen Gesellschaft Schweiz unterzeichnet wurde (PDF). 
KI-Systeme könnten strukturelle Machtungleichgewichte verschärfen, "wobei die Schäden oft die am stärksten Ausgegrenzten in der Gesellschaft treffen", heisst es in der Erklärung vom 30. November. Ziel müsse ein Gesetz sein, das die Grundrechte in den Vordergrund stellt. Dazu listen die Autoren eine Reihe von Forderungen an die EU sowie die Mitgliedsländer auf. Mit diesen soll die Gesetzesvorlage erweitert und präzisiert werden.
Dabei geht es etwa um die Hochrisiko-Systeme. Dieser Risiko-Ansatz funktioniere nicht, finden die Unterzeichner. Denn er beziehe nicht ein, dass das Risiko auch vom Kontext abhängt, in dem ein System eingesetzt wird. Das Risiko könne im Vorfeld nicht vollständig bestimmt werden.
Weiter verlangen die Organisationen, dass Social-Scoring-Systeme sowie biometrische Fernidentifizierung in öffentlich zugänglichen Räumen, vollständig verboten werden, und zwar für alle Akteure. Zudem fordern sie ein Verbot von Systemen zur Vorhersage zukünftiger krimineller Handlungen (Predicitve Policing) und Systemen zur Erstellung von Profilen und Risikobewertungen im Zusammenhang mit Migration.

Noch nichts in Stein gemeisselt

Die Vorschläge für das neue Gesetz über künstliche Intelligenz, der Artificial Intelligence Act (AIA), wurde im April 2021 von der Europäischen Kommission vorgelegt. Der Entwurf hat bereits für einige Diskussionen gesorgt und wird dies wohl auch noch eine Weile tun.
Bis der endgültige Wortlaut vereinbart ist, kann es noch dauern. Zum Vergleich: Bei der Datenschutzverordnung hat es vom Vorschlag bis zur Verabschiedung über vier Jahre gedauert.
Laut einem Bericht, der 'Euractiv' vorliegt, bekräftigten die EU-Mitgliedsländer ihre Zuständigkeit für nationale Sicherheitsfragen. KI-Systeme, die ausschliesslich für militärische Zwecke entwickelt werden, sollen aus dem Anwendungsbereich der Verordnung herausgenommen werden sollten. Ebenfalls ausgeschlossen werden sollen demnach Systeme, die ausschliesslich zum Zweck der wissenschaftlichen Forschung entwickelt wurden.
Mehrere Länder hätten zudem betont, dass eine Forderung nach vollständigen und fehlerfreien Datensätzen weitgehend unrealistisch sein könnte.
Der Kommissionsvorschlag sieht ein Verbot von Social Scoring durch Behörden vor. Die EU-Präsidentschaft schlägt laut 'Euractiv' nun vor, dieses Verbot auch auf private Einrichtungen auszuweiten. Darüber hinaus sei die Definition des verbotenen Einsatzes um die "Ausnutzung einer sozialen oder wirtschaftlichen Situation" zu erweitern. Diese Änderungen könnten Auswirkungen auf den Finanzsektor haben, heisst es im Bericht, da beispielsweise die Zinssätze für Kredite derzeit auf der Grundlage der Rückzahlungswahrscheinlichkeit berechnet werden. 

Loading

Mehr zum Thema

image

Mozilla investiert 30 Millionen in eigenes KI-Startup

Mozilla.ai will eine vertrauenswürdige und unabhängige Open-Source-KI aufbauen.

publiziert am 23.3.2023
image

Avaya darf sich refinanzieren

Ein Gericht hat den Refinan­zierungsplan genehmigt. Er soll das Unternehmen wieder auf eine stabile finanzielle Basis bringen.

publiziert am 23.3.2023
image

Cisco und Wefox erhalten das Swiss Digital Trust Label

Ein Jahr nach der Lancierung des Labels werden erstmals ausländische Unternehmen zertifiziert. Die Swiss Digital Initiative beginnt auch Kooperationen in Asien.

publiziert am 23.3.2023
image

EU will ein "Recht auf Reparatur"

Ein Kunde soll während der Garantielaufzeit verlangen können, dass sein Gerät repariert wird, so der Vorschlag der EU. Dies gilt zunächst für Weisswaren, später auch für Smartphones und Tablets.

publiziert am 22.3.2023