Künstliche Intelligenz kommt in Verwaltungen und Behörden zum Einsatz. Aber die Bevölkerung muss nur dann informiert werden, wenn die KI für sogenanntes Automated Decision Making eingesetzt wird, so will es das neue Datenschutzgesetz. Ist das der richtige Weg oder braucht es mehr Transparenz? Das diskutieren Christian Laux und Sven Kohlmeier in der aktuellen Kolumne.

Die Automatisierung von Abläufen ist kein Selbstzweck, sondern der Weg ins Ziel. Das eigentliche Verwaltungshandeln muss weiterhin den Grundsätzen des Verwaltungshandelns entsprechen (siehe unten). Das Ziel braucht eine gesetzliche Grundlage, der Weg ins Ziel nicht (dazu unsere Diskussion zu Datenschutz). Und selbstredend muss das Verwaltungshandeln im öffentlichen Interesse liegen.

Wenn wir über Künstliche Intelligenz reden, geht es somit vor allem um die Frage, wie die Verwaltungsbehörde, die KI einsetzen will, Verhältnismässigkeit wahren kann oder muss.

Daraus ergibt sich zum Beispiel Folgendes: Blosse Spielereien ohne besonderen Nutzen sind schwerer zu rechtfertigen als Einsätze mit konkreten Nutzen stiftenden Zweck (Spannungsverhältnis zum Grundsatz der Eignung). Präzisierend:

Verwaltungshandeln ist kein Selbstzweck. Eine Verwaltung, die sich komplett der Kontrolle der Öffentlichkeit entzieht, hat weniger Daseinsberechtigung als eine transparente Verwaltung. Zudem verwendet die Verwaltung öffentliche Gelder und muss sich darum die Frage gefallen lassen: "Wozu das Ganze?" Dem Grundsatz nach ist klar: Verwaltungshandeln muss transparent sein.

Was jedoch viel weniger klar ist: Wie viel Details muss die Verwaltung zur Verfügung stellen, um Transparenz zu schaffen? Generell finde ich Folgendes:

1. Keine Leerläufe: Jede Transparenzmitteilung an die Öffentlichkeit muss einen Nutzen haben. Informationsflut nur aus Prinzip halte ich für einen Leerlauf.

2. Überinformation ist sogar schädlich: Natürlich kann eine Behörde ein Knowledge Center aufbauen und die Öffentlichkeit in der vollen Granularität teilhaben lassen über ihr Alltagshandeln mitsamt ergänzenden Gedanken und Begründungen. Das führt aber zu Informationsflut (ausser man macht das richtig gut). Man sieht den Wald vor lauter Bäumen nicht mehr.

3. Verwischen der Verantwortlichkeitsgrenzen: Wenn die Verwaltung informiert, könnte der Eindruck entstehen, dass die Verwaltung die einzelnen Bürgerinnen und Bürger um Erlaubnis fragt, ob es OK sei, was sie tut. Das muss die Verwaltung ja aber eben gerade nicht. Die Behörde tritt hoheitlich auf, entscheidet und ist verantwortlich für ihr Handeln.

Deswegen finde ich: Die Verwaltungsbehörde sollte Ankerpunkte schaffen, die für die Bevölkerung hilfreich sind. Reduzierte Informationen, an die man anknüpfen und auf deren Basis man nachfragen kann. Aber proaktive Überinformation muss nicht sein, im Gegenteil: Man sollte sie vermeiden.

Damit verlagert sich der Blick darauf, was man tun muss:

Ganz neu ist der Einsatz von KI-Tools in der Verwaltung nicht. So nutzt etwas das Handelsregister St. Gallen einen Chatbot auf seiner Webseite und auch das Migrationsamt des Kantons Zürich setzt auf einen digitalen Chatbot.

Beides sind mögliche Einsatzgebiete von KI-Tools. Durch die öffentliche Berichterstattung über ChatGPT (von OpenAI) und sein Pendant Bard (von Google) scheinen die Möglichkeiten der Vereinfachung in vielen Bereichen der Verwaltung aber ein neues Level erreicht zu haben.

Die Auswertung und Analyse grosser Datenmengen, die Auswertung von Gerichtsentscheiden, die KI-automatisierte Prüfung von Anträgen, Entscheiden und Stellungnahmen und die Anfertigung von Entscheiden. Auch im Cyber-Sicherheitsbereich sowie in der strafrechtlichen Ermittlungstätigkeit können KI-Tools eine wertvolle Unterstützung sein. Anstatt, dass sich beispielsweise Mitarbeitende der Untersuchungsbehörden strafrechtlich inkriminiertes Material im Internet anschauen müssen, kann das von einem KI-Tool übernommen werden. Und auch in Spitälern können KI-basierte Anwendungen einen erheblichen Mehrwert schaffen.

Die Vorteile liegen damit klar auf der Hand: bessere Entscheidungsfindung, Zeit- und Kostenersparnis sowie eine erhöhte Effizienz der Verwaltungstätigkeit. Auf der anderen Seite stellen KI-Anwendungen auch eine Herausforderung für die Verwaltung dar: Bei vertraulichen oder personenbezogenen Daten können Risiken bei dem Einsatz von KI bestehen und auch das Vertrauen in staatliche Institutionen könnte leiden, wenn anstelle einer Amtsperson ein emotionsloses KI-Tool entscheidet.

Ich teile mit Christian Laux die Auffassung, dass auch die Verwaltung KI-Tools einsetzen darf und einsetzen muss, denn wir wollen eine effiziente Verwaltung, eine hundertprozentige Diagnose im Spital und eine schnelle Bescheidung unserer Anträge. Und dennoch finde ich, dass sich die Verwaltung eigenen Transparenzregelungen bei dem Einsatz von KI unterwerfen sollte

Wir leben in einer Zeit von schwindendem Vertrauen in staatliche Institutionen, Entscheidungsprozesse und instabilen Demokratien (wenn auch nicht in der Schweiz). Ich finde, dass der Einsatz von KI-Tools in der Verwaltung viele Vorteile haben wird. Und ich sehe es als Chance, wenn die Behörde gegenüber dem Bürger darlegt, wie die Entscheidung zustande kam. Das kann nach meiner Vorstellung zum Beispiel mit einem automatisierten "Digital Footprint" auf dem Entscheid offengelegt werden. Oder im Urteil kann offengelegt werden, welches KI-Tool bei der Auswertung von Rechtsprechung geholfen hat. Das gibt den BürgerInnen und Betroffenen die Möglichkeit, den Entscheid zu überprüfen und auch die zugrundeliegenden Anwendungen auf eine ordnungsgemässen und sachgemässen Einsatz zu prüfen. Vermutlich wird es in 10 Jahren selbstverständlich sein, KI-Tools einzusetzen und es fragt keiner mehr nach. Und bis dahin ist Transparenz immer noch die beste Wahl. Denn sie kostet nichts und schafft Vertrauen.

Eine besondere Herausforderung an die Transparenz dürfte sein, bereits bei der Beschaffung von KI-System Vorgaben an die Hersteller zu machen, beispielsweise zur Herkunft der Trainingsdaten, der Funktionsweise der Algorithmen oder gar der Offenlegung des Quellcodes. Daran verweigern sich Hersteller in der Vergangenheit mit Verweis auf Geschäftsgeheimnisse. Aber ich finde schon wichtig zu wissen, wer mit welchen moralischen Vorstellungen eine KI trainiert hat, weil das eine unmittelbare Auswirkung auf das Ergebnis und damit auch auf den Entscheid hat. Hier sind Verwaltung wie Gesetzgeber gleichermassen gefordert, bereits bei der Beschaffung technische, wie auch Transparenzvorgaben zu beschreiben. Einheitliche Grundsätze, auch hinsichtlich ethischer Grundsätze, von Bund und Kantonen sind hierfür notwendig.

Wir setzen auch automatisierte Systeme ein, die uns die Arbeiten erleichtern, namentlich in den folgenden Bereichen: (1) Zusammenfassung der Spruchpraxis; (2) Zusammenfassung und Inventarisierung eingehender Gesuche; (3) Vorbereitung von Entscheiden; (4) Etc. Dabei stellen wir sicher, dass die Letztentscheidung immer durch einen Mitarbeitenden erfolgt. Entscheidautomation, die ohne Einbezug von Mitarbeitenden entscheidet, verwenden wir [nicht] / [in den folgenden Bereichen: Verweigerungsverfügung betr. Führerschein, etc.]. Wir stellen mit technischen, organisatorischen und vertraglichen Methoden sicher, dass Ihre Personendaten nicht für ungewollte Aussenbezüge verwendet werden. Wir lassen uns von unseren Vertragspartnern Zusicherungen über Massnahmen geben, die unerkannte Biases reduzieren und unseren ethischen Standards entsprechen.