Seit einigen Monaten sind KI und ChatGPT in aller Munde. Dabei dürfe man nicht vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist, schreibt Algorithmwatch in einer Mitteilung. Immer mehr Entscheidungen, die Auswirkungen auf Menschen haben, würden hierzulande von Algorithmen beeinflusst. Beispiele sind Predicitve Policing, HR-Tools oder Systeme, die über die Kreditwürdigkeit entscheiden.

Um einen Überblick über solche Systeme zu erhalten, hat die Organisation ihren "Atlas der Automatisierung" publiziert. Es handle sich dabei um eine Online-Datenbank, mit einer Auswahl von algorithmischen Systemen, die bei staatlichen Stellen sowie Unternehmen zum Einsatz kommen und Auswirkungen auf Menschen haben.

"Um als Gesellschaft faktenbasiert diskutieren zu können, brauchen wir Licht in der Black Box", sagt Angela Müller, Leiterin von Algorithmwatch Schweiz. Heute stütze man sich weitgehend auf Anekdoten und Spekulation, eine Faktenbasis fehle. "Mit dem Atlas der Automatisierung wollen wir einen Beitrag leisten, das zu ändern", so Müller. Man wolle Transparenz schaffen. Denn nur so könnten sich Betroffene auch zur Wehr setzen.

Die Organisation verfolgt mit dem Atlas nicht das Ziel, eine flächendeckende Vermessung zu bieten. Es gehe ihr darum, aufzuzeigen, wo Algorithmen eingesetzt werden und wie diese den Alltag, aber auch die Rechte von Menschen sowie die Gesellschaft beeinflussen können, so die Organisation.

Die Informationen der Datenbank beruhen laut der Mitteilung auf eigenen Recherchen der Organisation und auf Anfragen an öffentliche Verwaltungen. Zeitgleich mit der Lancierung der Datenbank werden demnach bei verschiedenen Kantonen politische Vorstösse eingereicht, um mit Unterstützung der Politik an weitere Informationen zu den verwendeten Algorithmen zu gelangen.

"Die Ressourcen, die wir in die Entwicklung des Atlas der Automatisierung gesteckt haben, veranschaulichen den Kern des Problems: Algorithmen haben das Potenzial, unsere Grundrechte und unsere Gesellschaft zu beeinflussen – doch Informationen darüber, wo und wie sie dies tun, sind für Betroffene nicht einfach zugänglich, sondern müssen aufwändig und durch die Zivilgesellschaft recherchiert werden", sagt Tobias Urech, Campaigner bei Algorithmwatch Schweiz und zuständig für das Projekt.

Der Atlas ist online frei verfügbar. Ein Beispiel, das in der Datenbank zu finden ist, betrifft personalisierte Werbung: Ein Tracking-System des Grosshändlers TopCC analysiere live das Kundenverhalten im Laden und zeige zielgerichtete Werbung auf Bildschirmen an.

Ein anderes Beispiel ist die App "Züri Fäscht", die es bereits seit 2013 gibt. Die Veranstaltungsapp der Stadt Zürich bietet Informationen für Besucherinnen und Besucher. Gleichzeitig werden die von der App gelieferten aktuellen Informationen über Personenaufkommen genutzt, um allfällige Massnahmen wie Strassensperren frühzeitig einzuleiten.

Weitere Beispiele aus dem Atlas sind eine Reihe von Predictive-Policing-Tools, ein anderes System, das die Gewaltbereitschaft einer Person am Arbeitsplatz vorhersagen soll, oder ein Algorithmus, der Ärztinnen und Ärzten bei der Analyse von Mammografie-Bildern unterstützt.