KI: Strenge Regeln und Bussen von der EU

14. April 2021 um 14:28
image

Die EU plant, den KI-Einsatz für Social Scoring und kommerzielle Massenüberwachung zu verbieten. Als hochriskant beurteilte KI soll stark reguliert werden.

Die EU plant offenbar strenge Regeln, was den Einsatz von KI anbelangt. Unternehmen, die dagegen verstossen, müssten mit happigen Bussen rechnen, berichtet 'Bloomberg'. Dem US-Magazin liegt ein Entwurf des Vorschlags der EU-Kommission vor. Dieser soll offenbar noch nächste Woche vorgestellt werden, wie auch die 'FAZ' schreibt.
Laut den beiden Berichten sieht der EU-Vorschlag unter anderem ein Verbot von kommerziellen KI-Anwendungen für die Massenüberwachung vor sowie von Social-Scoring-Systemen, die zu Diskriminierung führen könnten. Auch KI, die darauf ausgelegt ist, menschliches Verhalten oder Entscheidungen zu einem nachteiligen Zweck zu manipulieren, sogenannte Dark Patterns, sind im Vorschlag als verboten aufgeführt.
Für die öffentliche Sicherheit würden einige Ausnahmen gelten. Die Regeln würden auch nicht für KI-Systeme gelten, die ausschliesslich für militärische Zwecke genutzt werden.

"Risiko-KI" soll vor dem Einsatz überprüft werden

KI-Anwendungen, die als "risikoreich" eingestuft werden, müssen vor dem Einsatz einer Prüfung unterzogen werden. Dies soll sicherstellen, dass die Systeme mit unvoreingenommenen Datensätzen, auf nachvollziehbare Weise und unter menschlicher Aufsicht trainiert wurden.
Als hochriskant gilt laut 'Bloomberg' KI, die die Sicherheit, das Leben oder die Grundrechte von Menschen sowie die demokratischen Prozesse in der EU gefährden könnte. Als Beispiel werden KI-gesteuerte Operationen oder autonome Autos genannt.
Zu Hochrisiko-Anwendungen zählt die EU laut 'FAZ' auch die Nutzung von Gesichtserkennung im öffentlichen Raum. Auch der Einsatz bei der Beurteilung der Kreditwürdigkeit, bei der Einstellung von Arbeitnehmenden oder bei der Bewertung für den Zugang zu Sozialleistungen zähle dazu. In diesen Fällen sollen Menschen die abschliessende Kontrolle über die Entscheidungen haben. Die Liste der hochriskanten Anwendungen soll regelmässig überarbeitet werden, schreibt die Zeitung.
Daneben will die EU laut den Berichten sichergestellt haben, dass die Daten, mit denen die KI trainiert wird, angemessen und neutral sind.
Bei anderen, harmloseren Anwendungen soll klar sein, wenn Menschen es mit KI zu tun haben, etwa bei Chat-Bots oder in Telefon-Hotlines. Auch Deep-Fakes müssten entsprechend gekennzeichnet werden, sofern die Manipulation nicht aus dem Kontext erkennbar sei, schreibt die 'FAZ' weiter.

Bussen von bis zu 20 Millionen Euro

Die EU sieht Bussen vor in der Höhe von bis zu 4% des Jahresumsatzes oder bis zu 20 Millionen Euro. Diese Zahl aus dem Entwurf könne sich aber bis nächste Woche noch ändern, heisst es bei der 'FAZ'.
Wie auch bei der DSGVO sollen die Regeln und Strafen für alle Unternehmen gelten, die in der EU aktiv sind, unabhängig davon, ob sich ihr Sitz in einem EU-Mitgliedsland befindet. 

Loading

Mehr zum Thema

image

Auslieferungsanhörung von Wikileaks-Gründer Assange hat begonnen

Liefert Grossbritannien Julian Assange an die USA aus oder nicht? Das entscheidet heute und morgen letztinstanzlich der High Court in London.

publiziert am 20.2.2024
image

OpenAI sichert sich in der Schweiz "GPT" als Markenname

Die USA haben die Eintragung als Marke nicht akzeptiert, in der EU ist ein Löschungsverfahren hängig. Eine Einschätzung.

publiziert am 20.2.2024
image

St. Galler Kantonsrat bewilligt Nachtragskredite für Steuersoftware

Mitte-EVP und GLP wollten die Entwicklung einer neuen Steuersoftware für die Steuerverwaltung stoppen, wurden aber von der Mehrheit überstimmt. Dem 74-Millionenprojekt steht nichts mehr im Weg.

publiziert am 20.2.2024
image

EU knöpft sich Big Tech vor

Im Rahmen des Digital Services Act will die Europäische Union Tiktok untersuchen. Bei Apple steht ebenfalls Ungemach vor der Tür.

publiziert am 20.2.2024