Als "riskant" betrachtete KI-Anwendungen sollten verboten oder streng kontrolliert werden, sagten Beamte der EU, als sie kürzlich ein ehrgeiziges Paket von Vorschlägen zur Regulierung der schnell wachsenden Technologie vorstellten.

Die Entwürfe der EU-Kommission beinhalten Regeln für KI-Systeme, die Schul-, Job- oder Kreditbewerber herausfiltern. Sie würden auch künstliche Intelligenz in einigen Fällen, die als zu riskant angesehen werden, gänzlich verbieten, wie beispielsweise die aus China bekannten staatlichen "Social Scoring"-Systeme, die Menschen aufgrund ihres Verhaltens beurteilen.

Margrethe Vestager, die Vizepräsidentin der Europäischen Kommission für das digitale Zeitalter, sagte zum Grundprinzip der Vorschläge: "Je höher das Risiko einer spezifischen Nutzungsart der KI, desto strenger die Regeln".

Die Vorschläge sind der jüngste Schritt der EU, um ihre Rolle als globaler Standardisierer für Technologieregulierung aufrechtzuerhalten, während sie versucht, mit den USA und den beiden grossen Tech-Supermächten Schritt zu halten. EU-Beamte erklärten, dass sie einen vierstufigen "risikobasierten Ansatz" verfolgen würden, um wichtige Rechte wie den Datenschutz gegen die notwendige Förderung von Innovationen abzuwägen.

Die publizierten Vorschläge thematisieren unterschiedliche KI-Anwendungsbereiche.

Laut den Vorschlägen würden unzulässige Use Cases wie die Verhaltens-Manipulation, das Ausnutzen von Schwächen von Kindern oder die Verwendung suggestiver Techniken verboten.

Zumindest als "Hochrisikoanwendungen" klassifiziert sind auch Software für selbstfahrende Autos oder für Medizinprodukte. Bei diesen sollen Anbieter garantieren, dass ihr Produkt regelkonform ist. So soll es eine exakte Dokumentation für Entwicklung und Nutzung dieser KI-Systeme geben, ebenso wie eine exakte Kontrolle der verwendeten Daten.

Zudem sollen nach dem Willen der Autoren die umstrittene "biometrische Fernidentifikation" grundsätzlich verboten werden, wie beispielsweise Live-Gesichtserkennung, um Individuen aus Menschenmengen herauszupicken. "Es gibt keinen Platz für Massenüberwachung in unserer Gesellschaft", sagte Margrethe Vestager.

Weitere Details zu den vorgeschlagenen Regeln und Bussen waren schon im Voraus zur Publikation durchgesickert, wir fassen sie hier zusammen.

Bisherige Vorstösse der EU zur Regulierung von Technologien waren laut der Nachrichtenagentur 'AP' "weitreichend und einflussreich und brachten ihr den Ruf eines Vorreiters ein".

Welche Punkte im neuen Vorschlag geben Diskussionsbedarf oder erzeugen gar Konflikte? Es sind ganz unterschiedliche Ebenen, die jetzt schon Gesprächsstoff bieten. Beispielsweise müssen Begriffe noch klar definiert werden und Prozesse ebenfalls. Zudem wollen 27 Staaten und unterschiedlichste Lobby-Organisationen ein Wörtchen bei der Detailausgestaltung mitreden, da sie weitreichende Konsequenzen befürchten.

Es ist anzunehmen, dass sich auch die Schweizer KI-Anbieter und -anwender und der Gesetzgeber diesen Regulierungen nicht entziehen können.

Die Vorschläge beinhalten eine Liste von verbotenen KI-Anwendungen, aber was genau heisst in der Praxis "Schwächen" von Gruppen wie Kindern oder Menschen mit Behinderungen ausnutzen? Könnte dies Facebooks Plan für ein Instagram-ähnliches Produkt für Kinder verhindern, weil Algorithmen verwendet werden, um Kindern relevante Inhalte zu zeigen? Unklar.

Der Vorschlag beinhaltet kein klares Verbot von Gesichtserkennung im öffentlichen Raum. Patrick Breyer, der für die Piratenpartei im EU-Parlament sitzt, sagte zur "Tagesschau" bei 'ARD': Das neue KI-Gesetz könne von den EU-Ländern beispielsweise bei der Strafverfolgung auch so ausgelegt werden, dass es die biometrische Massenüberwachung dort ermöglicht, wo sie heute rechtswidrig ist

Dazu gehören selbstfahrende Autos, Anwendungen im Bildungswesen, in der Arbeitswelt oder bei Anträgen auf Sozialleistungen. Anwendungen in der Strafverfolgung und beim Asylwesen haben auch eine höhere Messlatte. Die unterschiedlichen Lobby-Gruppen werden sicher versuchen, die Liste zu kürzen oder zu verlängern.

Nur KI-Systeme mit hohem Risiko, die Verfahren zu ihrer Konformitätsbewertung durchlaufen haben, sollen erlaubt sein. Diese Standards werden sehr genau geprüft werden. Wieviel Selbstregulierung wird möglich sein? Unklar.

Es soll ein Europäischer Ausschuss für Künstliche Intelligenz gegründet werden, der die Anwendung des Gesetzes überwachen und Best Practices austauschen soll. Die Mitglieder des Gremiums könnten mitentscheiden, welche Anwendungen in Zukunft als "hohes Risiko" eingestuft werden. Es stellt sich zudem die Frage, ob ein solches Gremium überhaupt sinnvoll ist oder ob andere Wege erfolgsversprechender wären.

Das Parlament wird möglicherweise strengere Regulierungen bei den Ausnahmen und Spielräumen beschliessen. Kommissionspräsidentin von der Leyen erhielt letzte Woche 2 Briefe, in denen unter anderem ein vollständiges Verbot der Gesichtserkennung beziehungsweise von Predictive Policing verlangt wurde.

In den EU-Mitgliedsstaaten herrschen unterschiedliche Meinungen vor. Deutschland ist datenschutzfreundlicher als andere Nationen, dafür scheint sich Frankreich diverse Ausnahmen für den KI-Einsatz in der Strafverfolgung zu wünschen.

Eine Gruppe von 14 Ländern, angeführt von Dänemark, forderte in einem Papier mit dem Titel "Innovative and Trustworthy AI: Two Sides of the same Coin" (PDF) zudem ein flexibleres Rahmenwerk mit freiwilligen Selbstauskünften. Es gehe darum, "die richtige Balance" zu finden zwischen Regulation und Wettbewerbsfähigkeit, argumentieren die Länder.

Bis Entscheidungen mit der richtigen Balance gefällt sind, dürften laut übereinstimmenden Einschätzungen wohl noch 2 oder mehr Jahre vergehen. Aber die Regulierungen werden kommen und sie werden sich auch auf die Schweiz auswirken.