Zürich soll als erster Kanton ein KI-Register bekommen

26. April 2022, 13:26
image
Foto: Maksym Kaharlytskyi / Unsplash

Fällt ein Algorithmus in der kantonalen Verwaltung eine Entscheidung, soll er in einem Register erfasst werden. Einen ähnlichen Vorstoss gibt es auch auf Bundesebene.

Mit einem Postulat wollen Vertreter von SP, GLP, Grüne, FDP und SVP Transparenz über den Einsatz von Künstlicher Intelligenz in der Verwaltung zu schaffen. In ihrem Vorstoss forderten sie den Regierungsrat auf, ein Register zu erstellen, in dem alle eingesetzten automatisierten Entscheidungssysteme (AES) erfasst werden.
Der Kantonsrat hat den Vorstoss angenommen und an den Regierungsrat überwiesen, der sich wiederum zur Annahme bereit erklärte, heisst im Beschlussprotokoll des Zürcher Kantonsrats vom 25. April.
Künstliche Intelligenz im Sinne von algorithmischen Entscheidungssystemen habe grosses Potenzial, wird im Postulat ausgeführt. Entsprechende Systeme werden in der Zürcher Verwaltung bereits eingesetzt. Auf Anfrage erklärte die Regierung im Herbst 2021, dass beispielsweise ein einfaches AES als "Auszahlungsroboter" bei der Arbeitslosenkasse zum Einsatz kommt.
Komplexere AES werden für die Aufbereitung grosser Datenmengen beim statistischen Amt sowie bei der Kantonspolizei genutzt. Zudem setze das Migrationsamt auf ein KI-basierendes System für die interne Personalplanung, erklärte die Regierung.

Informationen sollen einfach zugänglich sein

Für die Akzeptanz und das Vertrauen der Bevölkerung in staatliche Entscheidungen sei es wichtig, dass betroffene Personen und auch die interessierte Öffentlichkeit wissen, in welchen Bereichen die Verwaltung AES einsetze, heisst es im Postulat. Dies könne mit einem Register sichergestellt werden.
Das Register solle unter anderem Auskunft geben über die Art und Herkunft der bearbeiteten Daten, die Rechtsgrundlage, den Zweck der Bearbeitung sowie das verantwortliche Organ. Weiter, so der Vorstoss, sollen die Logik des algorithmischen Systems und die Mitentwickler ersichtlich sein.
Die Informationen könnten in einem standardisierten Format aufbereitet werden, sodass sie auch für die Forschung nutzbar wären, wird ausgeführt. Dabei sollen Datenschutz und legitime Geheimhaltungsinteressen gewahrt und sichergestellt werden.

Motion in Bundesbern

Ein ähnlicher Vorstoss ist derzeit auf nationaler Ebene hängig. Die Forderung ist dieselbe: Ein Verzeichnis soll zeigen, welchen Einsatzzweck ein Algorithmen-basiertes System verfolgt, wie es funktioniert und wer die Software hergestellt respektive entwickelt hat.
Der Bundesrat empfiehlt aber, die Motion abzulehnen. Er begründet dies mit der Einrichtung eines Kompetenznetzwerks für künstliche Intelligenz (CNAI). Zu dessen Aufgaben gehört die Schaffung einer Datenbank, die sämtliche laufenden Projekte und Anwendungen zeigt, die künstliche Intelligenz (KI) nutzen oder damit zusammenhängen. Seit dem 1. Januar 2022 ist eine Minimalversion der Datenbank auf der Website des CNAI verfügbar.
Algorithmwatch Switzerland erhofft sich, dass der Schritt des Zürcher Kantonsrat Aufwind für die Motion in Bundesbern gibt. Die Organisation schreibt, dass automatisierte Entscheidungssysteme durchaus viele Vorteile für die Verwaltung bringen. Sie müssten aber mit der gebührenden Vorsicht eingesetzt werden. Denn sie könnten zur Folge haben, dass Menschen der Zugang zu öffentlichen Gütern verwehrt wird oder sie in ihrer gesellschaftlichen Teilhabe beeinträchtigt werden.
In einem Statement empfiehlt Alorithmwatch deshalb nicht nur ein Register, sondern auch eine systematische Folgenabschätzung für AES, die in der öffentlichen Verwaltung eingesetzt werden.

Loading

Mehr zum Thema

image

Genfer Kantonalbank gewinnt erneut im Rechtsstreit gegen IBM

Im jahrelangen Gezanke um einen IT-Vertrag hat die BCGE die nächste Hürde genommen. Nun kann nur noch das Bundesgericht IBM vor der Zahlung von 46,8 Millionen bewahren.

publiziert am 25.11.2022
image

Bazl übernimmt EU-Drohnenregeln

Mit den neuen Drohnen-Regeln will der Bund unter anderem die Privatsphäre der Bevölkerung schützen. Insbesondere im Kanton Zürich wartete man schon lange auf verbindliche Regeln.

publiziert am 25.11.2022
image

Whatsapp-Leck: Millionen Schweizer Handynummern landen im Netz

Durch einen Hack haben Unbekannte fast 500 Millionen Whatsapp-Telefonnummern ergaunert und verkaufen diese nun im Web. Auch Schweizer Userinnen und User sind davon betroffen.

publiziert am 25.11.2022 1
image

Aargau migriert die SAP-Basis für 10 Millionen Franken in die Cloud

Der Kanton wechselt von einem On-Prem- in einen Cloud-Betrieb und vergibt den Auftrag für 10 Millionen Franken freihändig an SAP Schweiz.

publiziert am 25.11.2022