SATW insights: "Bei KI müssen wir unseren Platz als Menschen verteidigen"

27. März 2024 um 09:59
  • kolumne
  • satw insights
  • künstliche intelligenz
image
Laura Tocmacov

Die Stiftung ImpactIA setzt sich dafür ein, dass KI in der Arbeitswelt möglichst fair eingesetzt wird. Im Interview sagt Geschäftsführerin Laura Tocmacov, wie das funktionieren soll.

Laura Tocmacov ist Mitbegründerin und Geschäftsführerin der Genfer Stiftung ImpactIA sowie Mentorin des Programms "Swiss TecLadies" der Schweizerischen Akademie der technischen Wissenschaften (SATW). Hinweis der Redaktion: Wir publizieren das von der SATW geführte Interview im Rahmen der Kolumne "SATW Insights".
KI diskriminiert unter anderem in Bewerbungsprozessen Minderheiten, in einem bekannten Fall bei Amazon wurden zum Beispiel Bewerbungen von Frauen von einem Algorithmus aussortiert. Warum passiert das und was lässt sich dagegen tun? Die KI unterscheidet zwischen Gruppen, weil sie nicht auf repräsentative Weise gelernt hat. Daher basieren alle ihre Antworten auf denen, die sie unterrichtet haben. Um hier Abhilfe zu schaffen, besteht der einzig richtige Weg darin, die KI aus vier Blickwinkeln so weit als möglich zu diversifizieren:
  • Diversität derer, die KI programmieren
  • Diversität der Nutzenden
  • Diversität derer, die von den Vorteilen der KI profitieren
  • Diversität derjenigen, die entscheiden, was möglich, gerecht und moralisch ist.
Ist die Diskriminierung durch KI ein Spiegel der Gesellschaft? Um KI mit humanistischen Werten und Grundrechten in Einklang zu bringen und sie verantwortungsvoll zu machen, muss sie repräsentativ für die Gesellschaft sein. Damit sie Entscheidungen für das Gemeinwohl trifft und nicht nur für die Vision einer Minderheit. Wenn wir sagen, dass KI von einer Minderheit regiert wird, dann geht es auch um eine "Minderheitensicht" – nämlich der eines weissen Mannes um die Vierzig aus dem Silicon Valley.

Das Mentoring-Programm von Swiss TecLadies

Im September 2024 startet das nächste Swiss TecLadies -Mentoring-Programm der Schweizerischen Akademie der technischen Wissenschaften (SATW). Junge Frauen zwischen 14 und 19 Jahren können sich bis zum 26. April 2024 auf tecladies.ch registrieren, um sich einen der 100 begehrten Plätze im einzigartigen Mentoring-Programm zu sichern.
Die Teilnehmerinnen werden von erfahrenen Mentorinnen persönlich betreut und erhalten einen umfassenden Einblick in die Welt der Technik, Informatik und der Naturwissenschaften. Sie können aus einer Vielzahl von Aktivitäten wählen und lernen spannende junge Frauen aus der ganzen Schweiz kennen. Nach erfolgreichem Abschluss des Programms erhalten die Mentees ein Zertifikat und werden Mitglied des Swiss TecLadies Netzwerks
Die Organisation Women Leading in AI hat schon 2019 Grundsätze für eine ethische KI definiert. Es brauche Regulierung und ein "Gütesiegel" für KI-Systeme. Wären das taugliche Mittel? Labels verändern sicherlich Dinge, können aber auch Ausdruck von Voreingenommenheit sein. Es braucht jedoch eine ganze Reihe von Massnahmen, um uns zu helfen, KI zu einer Technologie für das Gemeinwohl zu machen. Und es braucht Massnahmen, um die Herausforderungen unserer Zeit zu meistern und gemeinsam eine gerechtere, integrativere, respektvollere Welt für die Menschheit und unseren Planeten aufzubauen.
Was können wir hier und jetzt tun? Gibt es eine KI, die gewisse Normen und Wert einhält oder kann man mit bestimmten Prompts bessere Resultate erreichen? Wir könnten zum Beispiel mehrheitlich mit Open-Source-Modellen arbeiten, wo man einfacher versteht, was das Modell tut. Wir müssen aber auch als Menschen Entscheidungen treffen und unseren Platz beanspruchen.
Sie engagieren sich bei Swiss TecLadies, dem Mentoring-Programm der SATW für junge Frauen. Wie können zukünftige weibliche "KI-Maker" die Situation verändern? Erstens, indem wir die Herausforderungen und Probleme der KI sowohl aus technologischer als auch aus strategischer Sicht verstehen. Und vor allem indem Frauen mitmachen und sich engagieren. Es besteht ein Bedarf an jungen Frauen, ein Bedarf an Vielfalt, ein Bedarf an einer Perspektive, die Minderheiten vertritt.
Disclaimer: Das Interview wurde von Caspar Türler, Copywriter und PR Manager SATW, geführt.

Zu dieser Kolumne:

SATW insights: Unter diesem Titel berichten Mitglieder der Schweizerischen Akademie der Technischen Wissenschaften SATW regelmässig für unsere Leserinnen und Leser über relevante, aktuelle Schweizer Technologie-Fragen. Die Meinung der Autoren muss sich nicht mit derjenigen von inside-it.ch decken.


Loading

Mehr erfahren

Mehr zum Thema

image

Google: KI-Suche und eine Antwort auf ChatGPT-4o

Die mit KI angereicherte Suche wirft ernste Fragen für Site-Betreiber auf. Google kündigte auch viele weitere KI-Neuerungen an.

publiziert am 15.5.2024
image

Machen xAI und Oracle bei KI gemeinsame Sache?

Gerüchten zufolge will das KI-Startup von Elon Musk GPU-Server bei Oracle mieten. Dafür sollen 10 Milliarden Dollar fliessen.

publiziert am 15.5.2024
image

Swiss Digital Initiative trimmt Label auf KI

Mit einem aktualisierten Kriterienkatalog soll der vertrauenswürdige und verantwortungsvolle Einsatz von KI vorangetrieben werden.

publiziert am 14.5.2024
image

Anthropic bringt Claude in die Schweiz

Das KI-Startup macht seinen Chatbot in weiten Teilen Europas verfügbar. Er ist ab sofort nutzbar. Für die Pro-Version fallen allerdings Gebühren an.

publiziert am 14.5.2024