Wo in der Schweiz Algorithmen entscheiden

12. Juni 2023 um 10:02
image
Entscheidet Mensch oder Maschine? Illustration: Bing Image Creator

Kreditwürdig, gewaltbereit oder krebskrank? Algorithmen kommen in vielen sensiblen Bereichen zum Einsatz, wie eine neue Online-Datenbank von Algorithmwatch zeigt.

Seit einigen Monaten sind KI und ChatGPT in aller Munde. Dabei dürfe man nicht vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist, schreibt Algorithmwatch in einer Mitteilung. Immer mehr Entscheidungen, die Auswirkungen auf Menschen haben, würden hierzulande von Algorithmen beeinflusst. Beispiele sind Predicitve Policing, HR-Tools oder Systeme, die über die Kreditwürdigkeit entscheiden.
Um einen Überblick über solche Systeme zu erhalten, hat die Organisation ihren "Atlas der Automatisierung" publiziert. Es handle sich dabei um eine Online-Datenbank, mit einer Auswahl von algorithmischen Systemen, die bei staatlichen Stellen sowie Unternehmen zum Einsatz kommen und Auswirkungen auf Menschen haben.
"Um als Gesellschaft faktenbasiert diskutieren zu können, brauchen wir Licht in der Black Box", sagt Angela Müller, Leiterin von Algorithmwatch Schweiz. Heute stütze man sich weitgehend auf Anekdoten und Spekulation, eine Faktenbasis fehle. "Mit dem Atlas der Automatisierung wollen wir einen Beitrag leisten, das zu ändern", so Müller. Man wolle Transparenz schaffen. Denn nur so könnten sich Betroffene auch zur Wehr setzen.

Algorithmen, die Alltag und Rechte beeinflussen

Die Organisation verfolgt mit dem Atlas nicht das Ziel, eine flächendeckende Vermessung zu bieten. Es gehe ihr darum, aufzuzeigen, wo Algorithmen eingesetzt werden und wie diese den Alltag, aber auch die Rechte von Menschen sowie die Gesellschaft beeinflussen können, so die Organisation.
Die Informationen der Datenbank beruhen laut der Mitteilung auf eigenen Recherchen der Organisation und auf Anfragen an öffentliche Verwaltungen. Zeitgleich mit der Lancierung der Datenbank werden demnach bei verschiedenen Kantonen politische Vorstösse eingereicht, um mit Unterstützung der Politik an weitere Informationen zu den verwendeten Algorithmen zu gelangen.
"Die Ressourcen, die wir in die Entwicklung des Atlas der Automatisierung gesteckt haben, veranschaulichen den Kern des Problems: Algorithmen haben das Potenzial, unsere Grundrechte und unsere Gesellschaft zu beeinflussen – doch Informationen darüber, wo und wie sie dies tun, sind für Betroffene nicht einfach zugänglich, sondern müssen aufwändig und durch die Zivilgesellschaft recherchiert werden", sagt Tobias Urech, Campaigner bei Algorithmwatch Schweiz und zuständig für das Projekt.

Von zielgerichteter Werbung über Crowd Control zur Predictive Policing

Der Atlas ist online frei verfügbar. Ein Beispiel, das in der Datenbank zu finden ist, betrifft personalisierte Werbung: Ein Tracking-System des Grosshändlers TopCC analysiere live das Kundenverhalten im Laden und zeige zielgerichtete Werbung auf Bildschirmen an.
Ein anderes Beispiel ist die App "Züri Fäscht", die es bereits seit 2013 gibt. Die Veranstaltungsapp der Stadt Zürich bietet Informationen für Besucherinnen und Besucher. Gleichzeitig werden die von der App gelieferten aktuellen Informationen über Personenaufkommen genutzt, um allfällige Massnahmen wie Strassensperren frühzeitig einzuleiten.
Weitere Beispiele aus dem Atlas sind eine Reihe von Predictive-Policing-Tools, ein anderes System, das die Gewaltbereitschaft einer Person am Arbeitsplatz vorhersagen soll, oder ein Algorithmus, der Ärztinnen und Ärzten bei der Analyse von Mammografie-Bildern unterstützt.

Loading

Mehr zum Thema

image

VX IT Das schnellste IT-Rack der Welt

IT-Schranksystem. Willkommen in der Zukunft: Rittal präsentiert mit seinem IT-Racksystem VX IT einen maximal durchdachten Variantenbaukasten. Damit lassen sich in bisher unerreichter Schnelligkeit neue IT- Infrastrukturen aufbauen – vom einzelnen Server-Rack bis zum kompletten Rechenzentrum.

image

Google veröffentlicht kostenlos verwendbare KI-Modelle

Sowohl Unternehmen als auch Individuen sollen die "Gemma"-Modelle für eigene KI-Applikationen verwenden können.

publiziert am 21.2.2024
image

KI-Chatbots luchsen Such­maschinen ordentlich Traffic ab

Der Marktforscher Gartner geht davon aus, dass mit der Verbreitung von ChatGPT und Co. klassische Such­maschinen rund ein Viertel an Traffic verlieren werden. Dies hat Konsequenzen für das Marketing.

publiziert am 21.2.2024
image

BLS sucht Cloud-Lösung für die Planung des Bahnbetriebs

Seit 2003 plant die Berner Regionalbahn ihren Betrieb mit einer Software, teilweise sogar in "Handarbeit". Nun soll bis 2027 ein Ersatz mit Cloud-Anbindung her.

publiziert am 21.2.2024