Automatisierte Entscheidungssysteme haben längst in die Arbeitswelt Einzug gehalten. Die im Machine-Learning-Verfahren trainierten Modelle sind für HR-Manager und Beschäftigte aber meist eine Blackbox. Werden diese mit Daten aus einer diskriminierenden Praxis gefüttert, reproduzieren sie zudem die Vorurteile oder verstärken sie sogar. So geschehen etwa bei einer Software von Amazon, die eigens für Bewerbungsverfahren von IT-Mitarbeitenden entwickelt worden war. Der Techkonzern brach das Projekt ab – der Bias-Effekt war nicht zu korrigieren.

In der Schweiz kommen solche Systeme in der Rekrutierung etwa bei den Pharmariesen Roche und Novartis zum Einsatz, wie die NGO Algorithmwatch erfahren hat. Bei den rund ein Dutzend Grossfirmen, die die Organisation unter die Lupe genommen hat, waren KI-Systeme für die Rekrutierung sonst offiziell lediglich bei der Credit Suisse ein Thema. Wie oft die Tools aber tatsächlich eingesetzt werden und wie die Rechtslage konkret aussieht, ist schwierig zu beantworten. Das wollen die Gewerkschaft Syndicom und Algorithmwatch nun ändern. Es geht ihnen dabei nicht nur um den Rekrutierungsprozess, sondern auch um Analyse-Tools, die etwa benutzt werden, um die Produktivität der Mitarbeitenden im Homeoffice zu überwachen.

Im November haben die beiden Organisationen ein gemeinsames Projekt gestartet, das bis im Februar 2024 läuft und die Mitsprache der Arbeitnehmenden stärken soll. "Zuerst wollen wir feststellen, wer welche Systeme einsetzt, dann werden wir Leitlinien für deren Einsatz ausarbeiten und schliesslich wollen wir nach einer juristischen Analyse auch politische Handlungsempfehlungen aussprechen", sagt Angela Müller, Chefin von Algorithmwatch, auf Anfrage. Man gehe derzeit den ersten Schritt der Evaluation und prüfe, welche verlässlichen Erkenntnisse es zum Einsatz von KI-Systemen in der Schweizer Arbeitswelt schon gebe, ergänzt Daniel Hügli, Leiter ICT bei Syndicom, gegenüber inside-it.ch.

Denn es passiert einiges auf dem Gebiet: Die SBB prüft derzeit ein Big-Data-basiertes Analytics-Tool, das Stress und positive Faktoren im Arbeitsalltag abwägen soll. Auch bei der Credit Suisse kommt Machine Learning für das Performance-Management zu Einsatz. Beide Anwendungen brauchen Unmengen an Daten, für deren Nutzung es nur wenige praktische Leitfäden gibt. Die beiden Projekte wurden im Frühling auf einem Event von Swiss HR Analytics präsentiert, einem kürzlich gegründeten Verein.

Das Thema stecke in der Schweiz noch in den Kinderschuhen, sagt Jonas Probst, Geschäftsführer des jungen Vereins zu inside-it.ch. Die meisten Firmen bauen derzeit noch Teams auf, die unter anderem die Datenqualität sicherstellen und Strategien entwickeln sollen. Zudem ist oft nicht klar, wie die Rechtslage ausgelegt werden muss. "Im Rekrutingprozess wird aber bereits stark in automatische Auswertungssysteme investiert", so Probst. Es geht dort schliesslich um viel Geld: Im Idealfall helfen die Algorithmen geeignete Kandidaten zu finden.

Es gibt eine bemerkenswerte Diskrepanz zwischen den offiziell bekannten Firmenangaben und dem, was man aus unabhängigen Erhebungen entnehmen kann. Dies zeigt etwa eine wissenschaftliche Untersuchung von 2020 (PDF): Auf Grundlage der Antworten von 158 Schweizer Firmen, kommt diese zum Schluss, dass deutlich über 50% der Grossfirmen People Analytics zur Leistungssteuerung und/oder Auswahl der Mitarbeitende einsetzt. Der Einsatz unterscheidet sich nach Unternehmensgrösse. Verlässlich sind die Zahlen aber nicht, eine Transparenz- oder Rechenschaftspflicht für Firmen gibt es nicht. Hier müsse nun erstmal Klarheit geschaffen werden, sagt Müller von Algorithmwatch, schliesslich dürfte sich die Sache aus Sicht der Arbeitnehmenden anders darstellen. "In der besonderen Beziehung zwischen Arbeitgebenden und Arbeitnehmenden können diese Systeme das bestehende Machtgefälle weiter zementieren – wenn etwa die Angestellten nicht wissen, wozu, wie und von wem sie eingesetzt werden", heisst es in einer Mitteilung der NGO.