Mit einem Postulat wollen Vertreter von SP, GLP, Grüne, FDP und SVP Transparenz über den Einsatz von Künstlicher Intelligenz in der Verwaltung zu schaffen. In ihrem Vorstoss forderten sie den Regierungsrat auf, ein Register zu erstellen, in dem alle eingesetzten automatisierten Entscheidungssysteme (AES) erfasst werden.

Der Kantonsrat hat den Vorstoss angenommen und an den Regierungsrat überwiesen, der sich wiederum zur Annahme bereit erklärte, heisst im Beschlussprotokoll des Zürcher Kantonsrats vom 25. April.

Künstliche Intelligenz im Sinne von algorithmischen Entscheidungssystemen habe grosses Potenzial, wird im Postulat ausgeführt. Entsprechende Systeme werden in der Zürcher Verwaltung bereits eingesetzt. Auf Anfrage erklärte die Regierung im Herbst 2021, dass beispielsweise ein einfaches AES als "Auszahlungsroboter" bei der Arbeitslosenkasse zum Einsatz kommt.

Komplexere AES werden für die Aufbereitung grosser Datenmengen beim statistischen Amt sowie bei der Kantonspolizei genutzt. Zudem setze das Migrationsamt auf ein KI-basierendes System für die interne Personalplanung, erklärte die Regierung.

Für die Akzeptanz und das Vertrauen der Bevölkerung in staatliche Entscheidungen sei es wichtig, dass betroffene Personen und auch die interessierte Öffentlichkeit wissen, in welchen Bereichen die Verwaltung AES einsetze, heisst es im Postulat. Dies könne mit einem Register sichergestellt werden.

Das Register solle unter anderem Auskunft geben über die Art und Herkunft der bearbeiteten Daten, die Rechtsgrundlage, den Zweck der Bearbeitung sowie das verantwortliche Organ. Weiter, so der Vorstoss, sollen die Logik des algorithmischen Systems und die Mitentwickler ersichtlich sein.

Die Informationen könnten in einem standardisierten Format aufbereitet werden, sodass sie auch für die Forschung nutzbar wären, wird ausgeführt. Dabei sollen Datenschutz und legitime Geheimhaltungsinteressen gewahrt und sichergestellt werden.

Ein ähnlicher Vorstoss ist derzeit auf nationaler Ebene hängig. Die Forderung ist dieselbe: Ein Verzeichnis soll zeigen, welchen Einsatzzweck ein Algorithmen-basiertes System verfolgt, wie es funktioniert und wer die Software hergestellt respektive entwickelt hat.

Der Bundesrat empfiehlt aber, die Motion abzulehnen. Er begründet dies mit der Einrichtung eines Kompetenznetzwerks für künstliche Intelligenz (CNAI). Zu dessen Aufgaben gehört die Schaffung einer Datenbank, die sämtliche laufenden Projekte und Anwendungen zeigt, die künstliche Intelligenz (KI) nutzen oder damit zusammenhängen. Seit dem 1. Januar 2022 ist eine Minimalversion der Datenbank auf der Website des CNAI verfügbar.

Algorithmwatch Switzerland erhofft sich, dass der Schritt des Zürcher Kantonsrat Aufwind für die Motion in Bundesbern gibt. Die Organisation schreibt, dass automatisierte Entscheidungssysteme durchaus viele Vorteile für die Verwaltung bringen. Sie müssten aber mit der gebührenden Vorsicht eingesetzt werden. Denn sie könnten zur Folge haben, dass Menschen der Zugang zu öffentlichen Gütern verwehrt wird oder sie in ihrer gesellschaftlichen Teilhabe beeinträchtigt werden.

In einem Statement empfiehlt Alorithmwatch deshalb nicht nur ein Register, sondern auch eine systematische Folgenabschätzung für AES, die in der öffentlichen Verwaltung eingesetzt werden.