KI: Strenge Regeln und Bussen von der EU

14. April 2021 um 14:28
image

Die EU plant, den KI-Einsatz für Social Scoring und kommerzielle Massenüberwachung zu verbieten. Als hochriskant beurteilte KI soll stark reguliert werden.

Die EU plant offenbar strenge Regeln, was den Einsatz von KI anbelangt. Unternehmen, die dagegen verstossen, müssten mit happigen Bussen rechnen, berichtet 'Bloomberg'. Dem US-Magazin liegt ein Entwurf des Vorschlags der EU-Kommission vor. Dieser soll offenbar noch nächste Woche vorgestellt werden, wie auch die 'FAZ' schreibt.
Laut den beiden Berichten sieht der EU-Vorschlag unter anderem ein Verbot von kommerziellen KI-Anwendungen für die Massenüberwachung vor sowie von Social-Scoring-Systemen, die zu Diskriminierung führen könnten. Auch KI, die darauf ausgelegt ist, menschliches Verhalten oder Entscheidungen zu einem nachteiligen Zweck zu manipulieren, sogenannte Dark Patterns, sind im Vorschlag als verboten aufgeführt.
Für die öffentliche Sicherheit würden einige Ausnahmen gelten. Die Regeln würden auch nicht für KI-Systeme gelten, die ausschliesslich für militärische Zwecke genutzt werden.

"Risiko-KI" soll vor dem Einsatz überprüft werden

KI-Anwendungen, die als "risikoreich" eingestuft werden, müssen vor dem Einsatz einer Prüfung unterzogen werden. Dies soll sicherstellen, dass die Systeme mit unvoreingenommenen Datensätzen, auf nachvollziehbare Weise und unter menschlicher Aufsicht trainiert wurden.
Als hochriskant gilt laut 'Bloomberg' KI, die die Sicherheit, das Leben oder die Grundrechte von Menschen sowie die demokratischen Prozesse in der EU gefährden könnte. Als Beispiel werden KI-gesteuerte Operationen oder autonome Autos genannt.
Zu Hochrisiko-Anwendungen zählt die EU laut 'FAZ' auch die Nutzung von Gesichtserkennung im öffentlichen Raum. Auch der Einsatz bei der Beurteilung der Kreditwürdigkeit, bei der Einstellung von Arbeitnehmenden oder bei der Bewertung für den Zugang zu Sozialleistungen zähle dazu. In diesen Fällen sollen Menschen die abschliessende Kontrolle über die Entscheidungen haben. Die Liste der hochriskanten Anwendungen soll regelmässig überarbeitet werden, schreibt die Zeitung.
Daneben will die EU laut den Berichten sichergestellt haben, dass die Daten, mit denen die KI trainiert wird, angemessen und neutral sind.
Bei anderen, harmloseren Anwendungen soll klar sein, wenn Menschen es mit KI zu tun haben, etwa bei Chat-Bots oder in Telefon-Hotlines. Auch Deep-Fakes müssten entsprechend gekennzeichnet werden, sofern die Manipulation nicht aus dem Kontext erkennbar sei, schreibt die 'FAZ' weiter.

Bussen von bis zu 20 Millionen Euro

Die EU sieht Bussen vor in der Höhe von bis zu 4% des Jahresumsatzes oder bis zu 20 Millionen Euro. Diese Zahl aus dem Entwurf könne sich aber bis nächste Woche noch ändern, heisst es bei der 'FAZ'.
Wie auch bei der DSGVO sollen die Regeln und Strafen für alle Unternehmen gelten, die in der EU aktiv sind, unabhängig davon, ob sich ihr Sitz in einem EU-Mitgliedsland befindet. 

Loading

Mehr erfahren

Mehr zum Thema

image

Luzern will neue Online-Steuerlösung beschaffen

Die Software solch durch eine webbasierte Lösung ersetzt und ins Kantonsportal integriert werden. In anderen Kantonen bietet dies der bisherige Dienstleister schon an.

publiziert am 17.5.2024
image

Europarat stimmt KI-Konvention zu

In Strassburg einigte sich der Rat auf ein Übereinkommen. Auch die Schweiz war beteiligt.

publiziert am 17.5.2024
image

Kanton-Zürich will KI-Leader werden

Die Rahmenbedingungen seien geschaffen worden, sagt der Kanton. KI-Sandbox geht in die zweite Runde.

publiziert am 17.5.2024
image

Soll "Suisse ePolice" erweitert werden?

Im St. Galler Kantonsrat wurde eine Anfrage eingereicht. Die polizeiliche Plattform soll auch zusätzliche Delikte erfassen.

publiziert am 17.5.2024