Ende letzter Woche einigten sich Abgeordnete des EU-Parlaments auf einen Entwurf des AI Acts. Dieser sieht im Kern vor, dass KI-Systeme nach ihrem Risiko eingestuft werden – von minimal über begrenzt und hoch bis inakzeptabel. Verboten werden "high-risk" Systeme nicht, wer sie einsetzt, müsste dies aber transparent machen.

Nun wird das Gesetz an die nächste Verfahrensstufe weitergeleitet, wie es offiziell heisst. Jetzt gehts darum, Einzelheiten des Gesetzespakets zusammen mit den Mitgliedsstaaten auszuarbeiten. Das ist kompliziert und hochtechnisch: Es muss geregelt werden, wie bestehende (und künftige) Algorithmen in verschiedenen Risikostufen klassifiziert werden.

Erste Expertinnen und Experten äussern jetzt ihre Bedenken gegenüber dem aktuellen Gesetzesentwurf. Durch die zu starke Regulierung könnte Europa technologisch stark zurückfallen. In einem offenen Brief fordert der Verein Laion, eine deutsche Non-Profit-Organisation, die Abgeordneten auf, die Auswirkungen des KI-Gesetzes auf Forschung und Entwicklung zu berücksichtigen.

Man sei für eine KI-Aufsicht, heisst es im Schreiben weiter. Allerdings müsse darauf geachtet werden, dass Europa wettbewerbsfähig bleibe. Der Verein sorgt sich vor allem vor einer Überregulierung von Open-Source-Modellen. Europa werde sonst in der KI-Entwicklung weit zurückfallen und sich auf "eine Verbraucherrolle beschränken, ohne Einfluss auf die Technologien, welche unsere Gesellschaft prägen".

Eine vergleichbare Haltung hat auch die Digitale Gesellschaft Schweiz. David Sommer, Leiter der Fachgruppe Automated Decision-Making Systems, sagt: "Die Schweiz sollte nicht derart stark im vornerein regulieren wie der AI Act. Der Vorschlag der Digitalen Gesellschaft geht von einem technologieneutralen ex-post Ansatz aus". Es gehe jedoch darum, Rechtssicherheit zu schaffen, ohne aber Innovation zu hemmen. "Aktuell befinden wir uns in einem Schwebezustand, der niemandem hilft – weder den Firmen, noch der Zivilgesellschaft", so Sommer.

Ignorieren können Schweizer Unternehmen den AI Act nicht, auch wenn dieser hierzulande nicht gilt. "Ignorieren ist nicht möglich", erklärt David Sommer. Alle, die in der EU geschäften, müssen sich daran halten. Punkto Gesetzgebung hat die Schweiz eine andere Tradition als die EU, hierzulande sei man zurückhaltender mit Regulierung.

Die Digitale Gesellschaft Schweiz fordert mehr Selbsteinschätzung von Firmen, die KI-Systeme einsetzen – aber auch mit "Transparenzpflicht und Risikoklassen", sagt David Sommer. Wichtig dabei sei, dass bei falscher Selbsteinschätzung entsprechend sanktioniert werde – also ähnlich, wie im neuen Datenschutzgesetz (DSG).

"Bei Künstlicher Intelligenz greift das DSG vermutlich zu kurz", erläutert David Sommer. Systemische Risiken, wie beispielsweise der Einsatz von KI-Tools in Bewerbungsverfahren, könnten nicht über den Datenschutz geregelt werden. Man müsse von der Maxime "Einzelperson gegen den Staat" (wie beim DSG, d.Red.) wegkommen. Dafür brauche es grundlegende Änderungen.