Knapp anderthalb Jahre vor ChatGPT klärte der Kanton Zürich in einer Studie, was es beim Einsatz von KI bei öffentlichen Verwaltungen braucht. Fairness, Gemeinwohlorientierung, Kontrolle und Transparenz, beispielsweise. Ebenso gehöre eine Rechenschaftspflicht dazu, die klärt, wer für Ergebnisse und das Verhalten von KI-Anwendungen verantwortlich ist, hiess es damals.

Auf dieser Basis entwickelten die Studienautorinnen Checklisten, welche nun "im echten Leben" getestet worden sind. Die Anführungszeichen deshalb, weil der Pilot in einem Prototyp durchgeführt wurde, der von der produktiven Umgebung getrennt war. Für das Pilotprojekt wurde "innerhalb der Struktur des statistischen Amts ein Webserver im Intranet" aufgesetzt.

Für das Projekt wählte die Abteilung Digitale Verwaltung und E-Government der Staatskanzlei des Kantons Zürich den Prozess der Triage von Anfragen aus dem Kantonsrat. Wöchentlich erhält die Staatskanzlei 10 bis 15 Vorstösse, welche innerhalb der zuständigen Direktion dem richtigen Amt oder der zuständigen Fachstelle zugewiesen werden müssen. Dieser Prozess wurde im Pilotprojekt von einer KI übernommen. Dabei setzte das Projektteam auf ein entscheidugnsunterstützendes System, wie es im Bericht (PDF) heisst.

Der Algorithmus sei mit Daten von bereits triagierten Geschäften trainiert worden. Mit dieser Basis habe er das selbstständige Triagieren nach demselben Muster gelernt. Unter bestimmten Rahmenbedingungen, schreiben die Autorinnen und Autoren, sei der Einsatz von Machine Learning als Entscheidungsunterstützung in der Verwaltung möglich. Auf Direktionsebene sei bei der Zuweisung von 8470 Geschäften eine Genauigkeit von 92,5% erreicht worden. "Auf Amtsebene wird die Zuteilung der Geschäfte noch nicht lange, anders und von Direktion zu Direktion unterschiedlich dokumentiert", heisst es im Bericht. Deshalb sei die Datenqualität und -quantität deutlich niedriger und auch die Zuteilungsgenauigkeit schlechter als sie hätte sein können.

Im Bericht betont der Kanton Zürich, dass keine besonderen Personendaten bearbeitet worden seien und dass nur parlamentarische Anfragen genutzt worden seien, die keine Einzelpersonen betreffen. Das "grösste Risiko des KI-Piloten besteht darin, dass eine Anfrage aufgrund eines nicht korrekten oder missinterpretierten Vorschlages an eine nicht zuständige Direktion geroutet wird", was jederzeit manuell rückgängig gemacht werden könne.

Die Mitarbeitenden hätten die KI-Hilfe geschätzt, heisst es. Bevor aber die KI in die bestehende Oberfläche des Geschäftsverwaltungssystem (Gever) des Kantons integriert werden kann, müssten ein paar Punkte geklärt werden. In erster Linie geht es dabei um eine Kosten-Nutzen-Analyse und die Klärung der Finanzierung der Weiterentwicklung.

Auch in Bundesbern wird mit KI experimentiert. Seit 2022 laufen im Bundesamt für Statistik (BFS) zwei Projekte: "Machine Learning Soziale Sicherheit" und "Machine Learning Poverty". Darin soll eruiert werden, wie typische Bezugsverläufe von Sozialhilfebeziehenden aussehen und in welchen Regionen Armut besonders verbreitet ist. Die Projekte dienen der besseren statistischen Erhebung und zur politischen Steuerung.

Der Einsatz von KI in der Verwaltung wird auch kritisch beäugt. Im Parlament sind mehrere Vorstösse zu Künstlicher Intelligenz hängig, verschiedene zivilgesellschaftliche Organisationen wehren sich. Die NGO Algorithm Watch hat ein Tool zur Risikobeurteilung publiziert und politische Massnahmen vorgeschlagen. Die Digital Society Initiative (DSI) der Universität Zürich hat ebenfalls ein Positionspapier publiziert.

Rechtsprofessorin Nadja Braun Binder von der Universität Basel war am DSI-Papier beteiligt ."Wir brauchen hier aber eine rechtliche Grundlage, die für alle Behördenebenen einheitliche und verbindliche Vorgaben macht", sagte die Spezialistin für öffentliches Recht.