Algorithmwatch Schweiz hat einen Appell an den Bundesrat verfasst, in dem er dazu aufgefordert wird, Massnahmen zum Schutz vor Diskriminierung durch Algorithmen und Künstliche Intelligenz zu ergreifen. Zu den Erstunterzeichnenden des Appells gehören Politiker und Politikerinnen der FDP, Mitte, EVP, GLP, SP und der Grünen, aber auch Vertreterinnen und Vertreter von verschiedenen Schweizer Universitäten sowie Digital- und Diversity-Expertinnen und Experten haben sich dem Aufruf angeschlossen.

Dass Algorithmen und KI diskriminierend wirken können, untermauert Algorithmwatch mit einigen Beispielen. So habe ein Algorithmus in Grossbritannien Menschen mit Beeinträchtigungen überproportional oft des Sozialleistungsbetrugs verdächtigt, weshalb sie bürokratische Prüfungen über sich ergehen lassen mussten. In den Niederlanden seien tausende Familien in existenzielle Not getrieben worden, als ein diskriminierender Algorithmus sie fälschlicherweise dazu aufforderte, über Jahre erhaltene staatliche Kinderbetreuungsgelder zurückzuzahlen.

Diese Probleme würden sich zudem nicht allein auf technischer Ebene lösen lassen, wird im Appell argumentiert. Das zeige das Beispiel eines grossen Onlinehändlers. Dieser habe eine Software entwickelt, um Einstellungsprozesse effizienter zu gestalten. Noch in der Testphase habe sich jedoch herausgestellt, dass sein Empfehlungsalgorithmus dazu neigte, die Lebensläufe von Frauen automatisch auszusortieren. Versuche, dies auf technischer Ebene zu beheben, seien erfolglos geblieben. Deshalb, so der Schluss, müssten Regulierungen rund um KI einen verantwortungsvollen Umgang damit sicherstellen.

Die Gelegenheit, dass sich der Bundesrat darüber Gedanken macht, sei zudem günstig. Dieser hat im vergangenen November versprochen, bis Ende dieses Jahres Ansätze zur Regulierung von KI auszuarbeiten. Diese sollen auch mit dem AI Act der EU kompatibel sein.

Während sich die einen Sorgen um Diskriminierung machen, sehen andere darin vor allem eine Chance zur Effizienzsteigerung in der Verwaltung. In einem Postulat forderte der Zürcher FDP-Nationalrat Andri Silberschmidt kürzlich, dass der Bundesrat prüfen soll, wie die Effizienz in der Verwaltung durch Prozess­auto­ma­tisierung und KI-Einsatz verbessert werden kann. Unterzeichnet wurde der Vorstoss von Digitalpolitikern aus allen Fraktionen.