Appell: Bundesrat soll Diskriminierung durch KI verhindern

27. Juni 2024 um 09:25
image
Foto: Andreas / Pixabay

Prominente Persönlichkeiten und Organisationen rufen den Bundesrat dazu auf, Massnahmen zum Schutz vor Diskriminierung durch Algorithmen und Künstliche Intelligenz zu ergreifen.

Algorithmwatch Schweiz hat einen Appell an den Bundesrat verfasst, in dem er dazu aufgefordert wird, Massnahmen zum Schutz vor Diskriminierung durch Algorithmen und Künstliche Intelligenz zu ergreifen. Zu den Erstunterzeichnenden des Appells gehören Politiker und Politikerinnen der FDP, Mitte, EVP, GLP, SP und der Grünen, aber auch Vertreterinnen und Vertreter von verschiedenen Schweizer Universitäten sowie Digital- und Diversity-Expertinnen und Experten haben sich dem Aufruf angeschlossen.

Beunruhigende Beispiele

Dass Algorithmen und KI diskriminierend wirken können, untermauert Algorithmwatch mit einigen Beispielen. So habe ein Algorithmus in Grossbritannien Menschen mit Beeinträchtigungen überproportional oft des Sozialleistungsbetrugs verdächtigt, weshalb sie bürokratische Prüfungen über sich ergehen lassen mussten. In den Niederlanden seien tausende Familien in existenzielle Not getrieben worden, als ein diskriminierender Algorithmus sie fälschlicherweise dazu aufforderte, über Jahre erhaltene staatliche Kinderbetreuungsgelder zurückzuzahlen.
Diese Probleme würden sich zudem nicht allein auf technischer Ebene lösen lassen, wird im Appell argumentiert. Das zeige das Beispiel eines grossen Onlinehändlers. Dieser habe eine Software entwickelt, um Einstellungsprozesse effizienter zu gestalten. Noch in der Testphase habe sich jedoch herausgestellt, dass sein Empfehlungsalgorithmus dazu neigte, die Lebensläufe von Frauen automatisch auszusortieren. Versuche, dies auf technischer Ebene zu beheben, seien erfolglos geblieben. Deshalb, so der Schluss, müssten Regulierungen rund um KI einen verantwortungsvollen Umgang damit sicherstellen.

Bundesrat arbeitet an Regulierungsansätzen

Die Gelegenheit, dass sich der Bundesrat darüber Gedanken macht, sei zudem günstig. Dieser hat im vergangenen November versprochen, bis Ende dieses Jahres Ansätze zur Regulierung von KI auszuarbeiten. Diese sollen auch mit dem AI Act der EU kompatibel sein.
Während sich die einen Sorgen um Diskriminierung machen, sehen andere darin vor allem eine Chance zur Effizienzsteigerung in der Verwaltung. In einem Postulat forderte der Zürcher FDP-Nationalrat Andri Silberschmidt kürzlich, dass der Bundesrat prüfen soll, wie die Effizienz in der Verwaltung durch Prozess­auto­ma­tisierung und KI-Einsatz verbessert werden kann. Unterzeichnet wurde der Vorstoss von Digitalpolitikern aus allen Fraktionen.

Loading

Kommentare

Anmeldung wird geprüft …

Mehr zum Thema

imageAbo

Zumikon lagert Gemeinde-IT an Triasys aus

Das Unternehmen aus Zollikerberg erhält den Zuschlag für rund 670'000 Franken.

publiziert am 16.11.2026
imageAbo

Zürich definiert Cloud-Strategie

Damit schafft der Kanton neue Rahmenbedingungen für den bedarfsorientierten und rechtskonformen Einsatz von Cloud-Diensten in der Verwaltung.

publiziert am 16.11.2026
image

Aargau soll nach M365-Ausfall Notfallpläne prüfen

Die globalen Störungen bei Microsoft haben Fragen zur IT-Sicherheit im Kanton aufgeworfen. GLP-Grossrat Lukas Huber fordert eine Überprüfung.

publiziert am 16.11.2026
imageAbo

Bundesrat lehnt ersten Vorstoss zum KI-Gipfel ab

Eine Motion im Parlament fordert "Internationale Regeln für schwere KI-Risiken". Die Regierung teilt teilweise das Anliegen.

publiziert am 13.11.2026