Wo in der Schweiz Algorithmen entscheiden

12. Juni 2023 um 10:02
image
Entscheidet Mensch oder Maschine? Illustration: Bing Image Creator

Kreditwürdig, gewaltbereit oder krebskrank? Algorithmen kommen in vielen sensiblen Bereichen zum Einsatz, wie eine neue Online-Datenbank von Algorithmwatch zeigt.

Seit einigen Monaten sind KI und ChatGPT in aller Munde. Dabei dürfe man nicht vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist, schreibt Algorithmwatch in einer Mitteilung. Immer mehr Entscheidungen, die Auswirkungen auf Menschen haben, würden hierzulande von Algorithmen beeinflusst. Beispiele sind Predicitve Policing, HR-Tools oder Systeme, die über die Kreditwürdigkeit entscheiden.
Um einen Überblick über solche Systeme zu erhalten, hat die Organisation ihren "Atlas der Automatisierung" publiziert. Es handle sich dabei um eine Online-Datenbank, mit einer Auswahl von algorithmischen Systemen, die bei staatlichen Stellen sowie Unternehmen zum Einsatz kommen und Auswirkungen auf Menschen haben.
"Um als Gesellschaft faktenbasiert diskutieren zu können, brauchen wir Licht in der Black Box", sagt Angela Müller, Leiterin von Algorithmwatch Schweiz. Heute stütze man sich weitgehend auf Anekdoten und Spekulation, eine Faktenbasis fehle. "Mit dem Atlas der Automatisierung wollen wir einen Beitrag leisten, das zu ändern", so Müller. Man wolle Transparenz schaffen. Denn nur so könnten sich Betroffene auch zur Wehr setzen.

Algorithmen, die Alltag und Rechte beeinflussen

Die Organisation verfolgt mit dem Atlas nicht das Ziel, eine flächendeckende Vermessung zu bieten. Es gehe ihr darum, aufzuzeigen, wo Algorithmen eingesetzt werden und wie diese den Alltag, aber auch die Rechte von Menschen sowie die Gesellschaft beeinflussen können, so die Organisation.
Die Informationen der Datenbank beruhen laut der Mitteilung auf eigenen Recherchen der Organisation und auf Anfragen an öffentliche Verwaltungen. Zeitgleich mit der Lancierung der Datenbank werden demnach bei verschiedenen Kantonen politische Vorstösse eingereicht, um mit Unterstützung der Politik an weitere Informationen zu den verwendeten Algorithmen zu gelangen.
"Die Ressourcen, die wir in die Entwicklung des Atlas der Automatisierung gesteckt haben, veranschaulichen den Kern des Problems: Algorithmen haben das Potenzial, unsere Grundrechte und unsere Gesellschaft zu beeinflussen – doch Informationen darüber, wo und wie sie dies tun, sind für Betroffene nicht einfach zugänglich, sondern müssen aufwändig und durch die Zivilgesellschaft recherchiert werden", sagt Tobias Urech, Campaigner bei Algorithmwatch Schweiz und zuständig für das Projekt.

Von zielgerichteter Werbung über Crowd Control zur Predictive Policing

Der Atlas ist online frei verfügbar. Ein Beispiel, das in der Datenbank zu finden ist, betrifft personalisierte Werbung: Ein Tracking-System des Grosshändlers TopCC analysiere live das Kundenverhalten im Laden und zeige zielgerichtete Werbung auf Bildschirmen an.
Ein anderes Beispiel ist die App "Züri Fäscht", die es bereits seit 2013 gibt. Die Veranstaltungsapp der Stadt Zürich bietet Informationen für Besucherinnen und Besucher. Gleichzeitig werden die von der App gelieferten aktuellen Informationen über Personenaufkommen genutzt, um allfällige Massnahmen wie Strassensperren frühzeitig einzuleiten.
Weitere Beispiele aus dem Atlas sind eine Reihe von Predictive-Policing-Tools, ein anderes System, das die Gewaltbereitschaft einer Person am Arbeitsplatz vorhersagen soll, oder ein Algorithmus, der Ärztinnen und Ärzten bei der Analyse von Mammografie-Bildern unterstützt.

Loading

Mehr erfahren

Mehr zum Thema

image

Aargau spart bei der Informations­sicherheit

Der Aargauer Regierungsrat will die Cybersicherheit im Kanton für mehrere Millionen verbessern. Einer bürgerlichen Mehrheit im Parlament kostet das aber zu viel.

publiziert am 2.7.2024
image

Zürich will Steuererklärungen für Firmen digitalisieren

Beim kantonalen Steueramt soll dank einer digitalen Deklaration für juristische Personen weniger Papier anfallen. Der traditionelle Weg bleibt aber erhalten.

publiziert am 2.7.2024
image

Luzern schickt E-Gov-Projekt "Objekt.lu" in die Vernehmlassung

Die Regierung des Kantons will eine zentrale Datendrehscheibe für das Objektwesen schaffen.

publiziert am 2.7.2024
image

Citysoftnet will Rechte an Software behalten

Mit dem Verkauf der Rechte wollten die an Citysoftnet beteiligten Städte einen Teil der Entwicklungskosten decken. Aus dieser Idee wird aber offenbar nichts.

publiziert am 2.7.2024