Wie KI in der öffent­lichen Verwaltung eingesetzt werden kann

20. Mai 2021 um 09:32
image

Eine detaillierte Studie erklärt ethische Richt­linien und rechtliche Rahmen­bedingungen für den Einsatz von KI in Behörden.

Vom Einsatz KI-basierter Technologien versprechen sich Anwender hohes Innovationspotenzial, sei es nun in Unternehmen oder in der öffentlichen Verwaltung. Allgemein erhoffen sich Anwender etwa eine Effizienzsteigerung oder eine verbesserte Servicequalität. Der Kanton Zürich beispielsweise schreibt, dass sich KI-Technologien besonders zur Analyse von grossen Datenmengen eignen würden – darunter auch in sensiblen Bereichen wie der Sozialhilfe oder im Steuerwesen, wo KI zum Beispiel eine Rolle in der Betrugsbekämpfung spielen könnte. 
Mit den neuen Möglichkeiten gehen auch Risiken einher, die mindestens so intensiv diskutiert werden, wie das Potenzial. Die Diskussionen drehen sich um Themen wie Nachvollziehbarkeit, Monitoring, Bias und Fairness oder Haftung, um nur einige Stichworte zu nennen.
Algorithmen scheinen auf den ersten Blick objektiver als Menschen. "Doch zum einen enthalten sie immer bereits die Wertungen derjenigen, die sie entwickeln", heisst es in einem ausführlichen Bericht des Kantons Zürich. Zum anderen könne es sein, dass Daten fehlerhaft oder unvollständig sind. Dies könne dazu führen, dass sie alte Diskriminierungsmuster reproduzieren oder gar neue etablieren. Als problematisch wird auch die fehlende Nachvollziehbarkeit erachtet. Teilweise sei es fast unmöglich zu verstehen, wie lernende Algorithmen zu ihren Ergebnissen kommen.
Ein Beispiel, das im Bericht des Kantons Zürich ausgeführt wird, zeigt sowohl das Potenzial als auch die Probleme, die KI-Tools haben können. Es geht um ein Tool namens Dyrias-Intimpartner, welches das Risiko abschätzen soll, dass eine bestimmte männliche Person ein Gewaltdelikt gegen die aktuelle oder ehemalige Partnerin begehen könnte. Dies geschieht auf der Grundlage eines beantworteten Fragenkatalogs.
Dyrias habe zwar aus einer Stichprobe mit Daten von tatsächlich straffällig gewordenen Gewalttätern 82% der Täter in den beiden höchsten Risikostufen eingeordnet. gleichzeitig aber hätten nur 28% der von Dyrias als gefährlich eingestuften Personen tatsächlich ein Gewaltdelikt verübt. Dyrias arbeite folglich mit einer Risikoüberschätzung, heisst es im Bericht.

Bundesverwaltung gibt Richtlinien für KI-Einsatz vor

Auch die Bundesverwaltung beschäftigt sich mit den Möglichkeiten von sowie den potenziellen Folgen von KI-Tools. Ende 2020 hat der Bundesrat Leitlinien für den Umgang mit KI durch die Bundesverwaltung verabschiedet. Auch in diesen wird Transparenz, Nachvollziehbarkeit und Erklärbarkeit betont.
Grundsätzlich solle der Mensch im Mittelpunkt stehen: Bei Entwicklung und Einsatz von KI sollen Würde und Wohl des Menschen sowie das Gemeinwohl an vorderster Stelle stehen. Ausserdem müsse die Verantwortlichkeit respektive die Haftung im Falle von Schäden geklärt sein, so der Bundesrat. Die Verantwortlichkeit dürfe nicht an Maschinen delegiert werden können. 

Checkliste für Verwaltungen

Die Studie des Kantons Zürich versucht aus verschiedenen Richtlinien zur KI-Ethik Grundsätze für den Einsatz in der Verwaltung abzuleiten. Die verwendeten KI-Systeme sollten so konzipiert sein, dass sie Menschen nicht schaden und die Autonomie des Menschen schützen, so ein Grundsatz. Weitere Grundsätze bilden Fairness, Gemeinwohlorientierung, Kontrolle, Transparenz und eine Rechenschaftspflicht, die klärt, wer für Ergebnisse und das Verhalten von KI-Anwendungen verantwortlich ist.
Auf dieser Basis entwickelten die Studienautorinnen Checklisten, die dabei helfen, Transparenz herzustellen und die Konsequenzen des KI-Einsatzes abschätzen zu können. Die Fragen der Checkliste sollen helfen zu klären, welche Art von Daten verwendet werden, ob diese angemessen geschützt werden und ob das verbleibende Restrisiko angemessen ist.
Weitere Fragen drehen sich um die Konsequenzen des Systems – etwa, ob das KI-System verwendet wird, um eine Entscheidung über ein Recht einer Person zu treffen. Hinzu kommt die Frage, ob eine Person, über die mithilfe eines Tools eine Entscheidung getroffen wurde, beweisen kann, dass diese falsch ist. Auch müsse die Frage gestellt werden, ob der Schaden einer falschen Entscheidung vollständig reversibel ist. Daneben umfasst die Checkliste Fragen der IT-Security, etwa ob böswillige Parteien besonders starke Motive haben, das System zu hacken.
Die Autorinnen raten, solche Fragen möglichst früh, sprich in der Planungsphase, zu beantworten. Wenn Transparenz geschaffen werde, könne damit auch die Vertrauenswürdigkeit des Prozesses gefördert werden. Risiken könnten beim KI-Einsatz nicht vollständig eliminiert werden, weshalb Chancen und Risiken konstant abgewogen werden müssten. Dieser Prozess könne nicht nur verwaltungsintern geführt werden, so der Bericht zum Einsatz von KI in Behörden. Es brauche einen gesellschaftspolitischen Diskurs und die Bevölkerung müsse Grundlagenentscheidungen treffen und mittragen.
Die Bevölkerung sei dem Staat gegenüber relativ misstrauisch, gerade wenn es um die Datenbearbeitung gehe, wird die Zürcher Datenschutzbeauftragte Dominika Blonski im Bericht zitiert. "Das finde ich paradox, weil die rechtlichen Rahmenbedingungen und die Vorgaben für den Staat viel strenger sind."
Die Studie "Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen", wurde von der Staatskanzlei Zürich herausgegeben. Durchgeführt hat sie ein Team um Nadja Braun Binder, Professorin für Öffentliches Recht an der Universität Zürich. Die Studie steht online zum Download zur Verfügung

Loading

Mehr erfahren

Mehr zum Thema

image

Microsoft krebst zurück und macht Recall freiwillig

Die Kritik war offensichtlich zu stark: Microsoft schaltet das Screenshot-Feature Recall standardmässig aus.

publiziert am 10.6.2024
image

Neuer Leitfaden für den M365-Einsatz in Gemeinden

Die Zürcher Datenschutzbeauftragte erklärt, was bei der Einführung von Microsoft 365 berücksichtigt werden sollte, etwa mit Blick auf den Cloud Act.

publiziert am 7.6.2024 2
image

Swisscom bietet Zugang zu Nvidia-Supercomputern

Die Swiss AI Platform helfe Kundinnen und Kunden beim Entwickeln von KI-Lösungen oder dem Training von Sprachmodellen, sagt Swisscom.

publiziert am 7.6.2024
image

UBS und Swisscom gründen Stiftung für Deep-Tech-Förderung

Ziel der Gründungspartner ist es, in den nächsten zehn Jahren 50 Milliarden Franken zu mobilisieren, um die Innovations- und Wettbewerbsfähigkeit der Schweiz zu stärken.

publiziert am 7.6.2024