Laura Tocmacov ist Mitbegründerin und Geschäftsführerin der Genfer Stiftung ImpactIA sowie Mentorin des Programms "Swiss TecLadies" der Schweizerischen Akademie der technischen Wissenschaften (SATW). Hinweis der Redaktion: Wir publizieren das von der SATW geführte Interview im Rahmen der Kolumne "SATW Insights".

KI diskriminiert unter anderem in Bewerbungsprozessen Minderheiten, in einem bekannten Fall bei Amazon wurden zum Beispiel Bewerbungen von Frauen von einem Algorithmus aussortiert. Warum passiert das und was lässt sich dagegen tun? Die KI unterscheidet zwischen Gruppen, weil sie nicht auf repräsentative Weise gelernt hat. Daher basieren alle ihre Antworten auf denen, die sie unterrichtet haben. Um hier Abhilfe zu schaffen, besteht der einzig richtige Weg darin, die KI aus vier Blickwinkeln so weit als möglich zu diversifizieren:

Ist die Diskriminierung durch KI ein Spiegel der Gesellschaft? Um KI mit humanistischen Werten und Grundrechten in Einklang zu bringen und sie verantwortungsvoll zu machen, muss sie repräsentativ für die Gesellschaft sein. Damit sie Entscheidungen für das Gemeinwohl trifft und nicht nur für die Vision einer Minderheit. Wenn wir sagen, dass KI von einer Minderheit regiert wird, dann geht es auch um eine "Minderheitensicht" – nämlich der eines weissen Mannes um die Vierzig aus dem Silicon Valley.

Die Organisation Women Leading in AI hat schon 2019 Grundsätze für eine ethische KI definiert. Es brauche Regulierung und ein "Gütesiegel" für KI-Systeme. Wären das taugliche Mittel? Labels verändern sicherlich Dinge, können aber auch Ausdruck von Voreingenommenheit sein. Es braucht jedoch eine ganze Reihe von Massnahmen, um uns zu helfen, KI zu einer Technologie für das Gemeinwohl zu machen. Und es braucht Massnahmen, um die Herausforderungen unserer Zeit zu meistern und gemeinsam eine gerechtere, integrativere, respektvollere Welt für die Menschheit und unseren Planeten aufzubauen.

Was können wir hier und jetzt tun? Gibt es eine KI, die gewisse Normen und Wert einhält oder kann man mit bestimmten Prompts bessere Resultate erreichen? Wir könnten zum Beispiel mehrheitlich mit Open-Source-Modellen arbeiten, wo man einfacher versteht, was das Modell tut. Wir müssen aber auch als Menschen Entscheidungen treffen und unseren Platz beanspruchen.

Sie engagieren sich bei Swiss TecLadies, dem Mentoring-Programm der SATW für junge Frauen. Wie können zukünftige weibliche "KI-Maker" die Situation verändern? Erstens, indem wir die Herausforderungen und Probleme der KI sowohl aus technologischer als auch aus strategischer Sicht verstehen. Und vor allem indem Frauen mitmachen und sich engagieren. Es besteht ein Bedarf an jungen Frauen, ein Bedarf an Vielfalt, ein Bedarf an einer Perspektive, die Minderheiten vertritt.