Zum Schluss der letzten Session hat Nationalrätin Marionna Schlatter (Grüne/ZH) zusammen mit 10 Ratskolleginnen und -kollegen aus verschiedenen Parteien am 16. Dezember eine Motion eingereicht: "Öffentliches Verzeichnis der in der Verwaltung eingesetzten Algorithmen".

Darin fordert sie vom Bundesrat, "ein öffentliches Verzeichnis aller algorithmenbasierten, automatisierten Entscheidungssysteme anzufertigen, welche in der Bundesverwaltung im Einsatz sind". Dieses Verzeichnis soll zeigen, "welchen Einsatzzweck das System verfolgt, wie es funktioniert, wer die Software hergestellt und entwickelt hat und (falls vorhanden) die Resultate einer vorgenommenen Folgeabschätzung liefern".

Mitunterzeichner Gerhard Andrey, Liip-Mitgründer und Grünen-Nationalrat, erklärt zu den Beweggründen auf Anfrage von inside-it.ch: "Wollen wir eine Digitalisierung zum Wohle der Menschen, müssen wir die Risiken offen ansprechen und wo nötig im Zaum halten. Bei Künstlicher Intelligenz trifft dies in besonderem Masse zu, weil die Auswirkungen auf die Gesellschaft potenziell enorm und dazu sehr schwierig vorauszusehen sind."

In der Begründung zur Motion heisst es: "Mit der zunehmenden Digitalisierung der Verwaltung und den vermehrt anfallenden Daten wird der Einsatz von automatisierten Entscheidungssystemen zunehmen." Umso wichtiger sei es, sich jetzt Gedanken über den Umgang damit zu machen. "Ein erster Schritt ist die Transparenz darüber, wie viele solcher Systeme in der Verwaltung im Einsatz sind und welche Bereiche sie betreffen."

Im Bericht zur Zukunft der Datenbearbeitung und Datensicherheit halte der Bundesrat fest, dass unter anderem Transparenz über Algorithmen geschaffen werden müsse. Diese Transparenz gebe es aber nicht. "Ob bekannt ist, wo der Bund Algorithmen einsetzt, hängt heute davon ab, ob dies aktiv kommuniziert wird oder jemand nachgefragt hat."

Es gehe um Algorithmen, welche wichtigen Entscheidungen zugrunde liegen; das sogenannten Algorithmic Decision-Making (ADM), erklärt Andrey. "Solche Anwendungen bergen enorme Chancen aber eben auch genauso grosse Risiken." ADM-Werkzeuge seien heute in vielen Lebensbereichen bereits Realität wie beispielsweise der Mobilität, im Gesundheitswesen oder Social Media.

"Gutes ADM kann der Politik, der Wirtschaft und ganz grundsätzlich der Gesellschaft zu besseren Entscheidungen in komplexen Belangen verhelfen", so der Freiburger Nationalrat. "Weil Machine Learning, Deep Learning, KI usw. aber dermassen en vogue sind, ist Schindluder nicht weit weg." Das lasse sich gut an der automatischen Gesichtserkennung illustrieren, wenn diese im öffentlichen Raum eingesetzt werde.

Der Vorstoss ziele jetzt vorerst auf den Einsatz von ADM in der Bundesverwaltung ab. Einerseits brauche es ein durch die Verwaltung erstelltes Inventar, andererseits Transparenz über die Funktionsweise der einzelnen Systeme. "Es braucht eine Deklaration, wann, wo und wofür solche Systeme eingesetzt werden", sagt Andrey.

"Weil die Systeme schwierig im Voraus regulatorisch eingegrenzt werden können, muss die Haftungsfrage in den Vordergrund gestellt werden. Wer damit hantiert, soll auch geradestehen müssen, wenn etwas schiefgeht." Er sei der festen Überzeugung, "dass Vertrauenswürdigkeit durch Transparenz auch im Interesse der Branche ist".