Zürich soll als erster Kanton ein KI-Register bekommen

26. April 2022, 13:26
image
Foto: Maksym Kaharlytskyi / Unsplash

Fällt ein Algorithmus in der kantonalen Verwaltung eine Entscheidung, soll er in einem Register erfasst werden. Einen ähnlichen Vorstoss gibt es auch auf Bundesebene.

Mit einem Postulat wollen Vertreter von SP, GLP, Grüne, FDP und SVP Transparenz über den Einsatz von Künstlicher Intelligenz in der Verwaltung zu schaffen. In ihrem Vorstoss forderten sie den Regierungsrat auf, ein Register zu erstellen, in dem alle eingesetzten automatisierten Entscheidungssysteme (AES) erfasst werden.
Der Kantonsrat hat den Vorstoss angenommen und an den Regierungsrat überwiesen, der sich wiederum zur Annahme bereit erklärte, heisst im Beschlussprotokoll des Zürcher Kantonsrats vom 25. April.
Künstliche Intelligenz im Sinne von algorithmischen Entscheidungssystemen habe grosses Potenzial, wird im Postulat ausgeführt. Entsprechende Systeme werden in der Zürcher Verwaltung bereits eingesetzt. Auf Anfrage erklärte die Regierung im Herbst 2021, dass beispielsweise ein einfaches AES als "Auszahlungsroboter" bei der Arbeitslosenkasse zum Einsatz kommt.
Komplexere AES werden für die Aufbereitung grosser Datenmengen beim statistischen Amt sowie bei der Kantonspolizei genutzt. Zudem setze das Migrationsamt auf ein KI-basierendes System für die interne Personalplanung, erklärte die Regierung.

Informationen sollen einfach zugänglich sein

Für die Akzeptanz und das Vertrauen der Bevölkerung in staatliche Entscheidungen sei es wichtig, dass betroffene Personen und auch die interessierte Öffentlichkeit wissen, in welchen Bereichen die Verwaltung AES einsetze, heisst es im Postulat. Dies könne mit einem Register sichergestellt werden.
Das Register solle unter anderem Auskunft geben über die Art und Herkunft der bearbeiteten Daten, die Rechtsgrundlage, den Zweck der Bearbeitung sowie das verantwortliche Organ. Weiter, so der Vorstoss, sollen die Logik des algorithmischen Systems und die Mitentwickler ersichtlich sein.
Die Informationen könnten in einem standardisierten Format aufbereitet werden, sodass sie auch für die Forschung nutzbar wären, wird ausgeführt. Dabei sollen Datenschutz und legitime Geheimhaltungsinteressen gewahrt und sichergestellt werden.

Motion in Bundesbern

Ein ähnlicher Vorstoss ist derzeit auf nationaler Ebene hängig. Die Forderung ist dieselbe: Ein Verzeichnis soll zeigen, welchen Einsatzzweck ein Algorithmen-basiertes System verfolgt, wie es funktioniert und wer die Software hergestellt respektive entwickelt hat.
Der Bundesrat empfiehlt aber, die Motion abzulehnen. Er begründet dies mit der Einrichtung eines Kompetenznetzwerks für künstliche Intelligenz (CNAI). Zu dessen Aufgaben gehört die Schaffung einer Datenbank, die sämtliche laufenden Projekte und Anwendungen zeigt, die künstliche Intelligenz (KI) nutzen oder damit zusammenhängen. Seit dem 1. Januar 2022 ist eine Minimalversion der Datenbank auf der Website des CNAI verfügbar.
Algorithmwatch Switzerland erhofft sich, dass der Schritt des Zürcher Kantonsrat Aufwind für die Motion in Bundesbern gibt. Die Organisation schreibt, dass automatisierte Entscheidungssysteme durchaus viele Vorteile für die Verwaltung bringen. Sie müssten aber mit der gebührenden Vorsicht eingesetzt werden. Denn sie könnten zur Folge haben, dass Menschen der Zugang zu öffentlichen Gütern verwehrt wird oder sie in ihrer gesellschaftlichen Teilhabe beeinträchtigt werden.
In einem Statement empfiehlt Alorithmwatch deshalb nicht nur ein Register, sondern auch eine systematische Folgenabschätzung für AES, die in der öffentlichen Verwaltung eingesetzt werden.

Loading

Mehr zum Thema

image

Plattform bietet neue Einblicke in Schweizer KI-Forschung

Die Plattform "Sairop" listet aktuelle KI-Projekte und Forschende in der Schweiz. Ziel ist laut den Initianten, die Sichtbarkeit und Vernetzung zu fördern.

publiziert am 27.6.2022
image

Deepfakes von Vitali Klitschko sorgen für Aufregung

Mehrere europäische Politikerinnen und Politiker haben mit einem falschen Vitali Klitschko telefoniert. Manche haben die Deepfakes durchschaut, andere nicht.

publiziert am 27.6.2022
image

EU wirft wohl einen Blick auf VMware-Übernahme

Befürchtet wird eine eingehende Prüfung durch die Wettbewerbshüter, die den 69-Milliarden-Deal stark verzögern könnte.

publiziert am 24.6.2022
image

E-Umzug soll in allen Berner Gemeinden eingeführt werden

Nach einem Pilot zieht der Kanton Bern eine positive Bilanz: In allen Gemeinden soll die An- und Abmeldung bald auch auf digitalem Wege möglich sein.

publiziert am 24.6.2022