Künstliche Intelligenz? Der Aargauer Regierung gefällts

16. Juni 2023 um 14:15
image
Der Aargauer Regierungsrat (v.l.n.r.): Staatsschreiberin Joana Filippi, Regierungsrat Stephan Attiger, Landstatthalter Dr. Markus Dieth, Landammann Jean-Pierre Gallati, Regierungsrat Alex Hürzeler, Regierungsrat Dieter Egli. Foto: Studio Gioia

Gleich vier Vorstösse zu Künstlicher Intelligenz beantwortete der Regierungsrat. Er lobte Predictive Policing und sieht in automatisierten Entscheidungen viel Potential.

Der Aargauer Regierungsrat hat heute gleich 4 Vorstösse zum Thema künstliche Intelligenz (KI) beantwortet. 3 stammen von FDP-Grossrat Yannick Berner. Er wollte unter anderem wissen, in welchen Bereichen KI bereits eingesetzt wird und welche Möglichkeiten die Regierung sieht. Diese glaubt an ein "grosses Chancenpotenzial" für die Verwaltung.
Als erfolgreiches Beispiel nennt der Regierungsrat den Voicebot des Strassenverkehrsamts. Der Sprachassistent beantworte etwa 1000 Kundenfragen pro Monat und erkenne "auch kompliziert gestellte Fragen auf Mundart oder mit Akzent". Nach dem Gespräch könne er automatisiert Informationen per SMS verschicken.
Die Wissensplattform für Gemeinden lerne und wachse mit der Interaktion der Nutzenden und benötige keine zentrale Inhaltspflege mehr. Eine neue Software werde eingesetzt, um Gerichts- und Verwaltungsentscheide vor der Veröffentlichung zu anonymisieren, so die Regierung
Auch mit der Software Precobs (Pre Crime Observation System) zeigt sie sich zufrieden. Dank Daten aus der Einbruchsstatistik erkenne das Tool, wann und in welchen Gemeinden besonders häufig eingebrochen werde. So könne die Kantonspolizei gezielt patroullieren. In anderen Kantonen stiess das Tool jüngst auf Kritik.

Umstritten: Automatische Entscheidungs-Systeme

Der Regierungsrat ist der Ansicht, dass KI in vielen Bereichen das Potenzial hat, die Bedürfnisse der Bevölkerung und anderer Anspruchsgruppen besser zu erfüllen "und insgesamt auch die verwaltungsinterne Effizienz zu steigern". Neben Mustererkennung und Automatisierung nennt die Regierung auch Automated decision-making (ADM), also Tools, die automatisch Entscheidungen treffen. Diese sind aber ebenfalls umstritten.
Diskriminierung, die Machine-Learning-Systeme aus Datensätzen übernehmen, dürfte sich durch die Systematik der Entscheide noch verschärfen. Zudem ist die Frage der Rekursmöglichkeiten bei negativen Auswirkungen und der Verantwortlichkeiten bei Entscheiden noch nicht abschliessend geklärt. Zumindest ist im neuen Datenschutzgesetz festgehalten, dass Personen informiert werden müssen, wenn sie von einer automatisierten Einzelentscheidung betroffen sind, die rechtliche Folgen hat oder sie erheblich beeinträchtigt.
Die Aargauer Regierung sieht den Einsatz von Systemen, die vollständig autonom entscheiden, im Bereich der Gebühren, Subventionen, Fördermittel, einfache Bewilligungen und bei Fragen mit wenig Ermessensspielraum. Letztlich sei es aber Aufgabe der verantwortlichen Personen in der Verwaltung, die Datenanalysen einer KI kritisch zu würdigen, mit eigenem Wissen zu hinterfragen und einen anfechtbaren Entscheid zu erlassen, so die Regierung. Komme der Entscheid von einem System, müssten Risiken und Garantien geklärt sein und eine klare gesetzliche Grundlage bestehen.
Die Erfahrung aus mehreren Fällen zeigt aber, dass zwischen ADM und halbautomatischen Entscheiden oft nicht klar unterschieden werden kann und dass Verwaltungsangestellte die Entscheide ungerne in Eigenverantwortung übersteuern.
Ethische und rechtliche Herausforderungen
Bei allen Vorteilen gelte es auch Gefahren zu minimieren, heisst es von der Regierung schliesslich auf eine Interpellation von SP-Grossrätin Lelia Hunziker: "Es bedarf weiterer technologischer Fortschritte und eines regulatorischen Rahmens, um KI rechtssicher und diskriminierungsfrei betreiben zu können". Hunziker wollte wissen wie KI bei der Justiz, bei der Sozialversicherung SVA Aargau oder bei Bewilligungsentscheiden eingesetzt wird.
Weder in der Personalrekrutierung noch bei der SVA oder der Justizverwaltung würde derzeit auf KI gesetzt, so die Regierung. Einzig automatisierte E-Mail-Beantwortung mittels Freitexterkennung bei der Prämienverbilligung werde genutzt. Um einen "transparenten, fairen und rechtsstaatlichen Einsatz zu garantieren" müssen laut Regierung noch viele Herausforderungen rechtlicher und ethischer Art berücksichtigt werden.
(Mit Material von Keystone-sda)

Loading

Mehr zum Thema

image

Auslieferungsanhörung von Wikileaks-Gründer Assange hat begonnen

Liefert Grossbritannien Julian Assange an die USA aus oder nicht? Das entscheidet heute und morgen letztinstanzlich der High Court in London.

publiziert am 20.2.2024
image

OpenAI sichert sich in der Schweiz "GPT" als Markenname

Die USA haben die Eintragung als Marke nicht akzeptiert, in der EU ist ein Löschungsverfahren hängig. Eine Einschätzung.

publiziert am 20.2.2024
image

St. Galler Kantonsrat bewilligt Nachtragskredite für Steuersoftware

Mitte-EVP und GLP wollten die Entwicklung einer neuen Steuersoftware für die Steuerverwaltung stoppen, wurden aber von der Mehrheit überstimmt. Dem 74-Millionenprojekt steht nichts mehr im Weg.

publiziert am 20.2.2024
image

EU knöpft sich Big Tech vor

Im Rahmen des Digital Services Act will die Europäische Union Tiktok untersuchen. Bei Apple steht ebenfalls Ungemach vor der Tür.

publiziert am 20.2.2024