Ohne Regulierung könnten KI-Systeme Grundrechte verletzen

21. April 2023 um 11:02
image
Illustration: Midjourney

An der Shift-Konferenz 2023 wurde über digitale Ethik sowie Risiken und Regulierung von KI diskutiert. Überraschungen blieben aus.

Für Gutenachtgeschichten, alltägliche Problemlösungen oder doch für das Programmieren einer App: So kann man Künstliche Intelligenz wie etwa den Chatbot ChatGPT für sich nutzen. Doch wo sind die Grenzen bei KI, Big Data und Co.? Und welche Rolle spielen dabei ethische Themen? Genau um diese und andere Fragen ging es an der Shift-Konferenz 2023, die gestern über die Bühne gegangen ist.

Chatbots könnten auch Robotik verändern

KI-Technologien wie beispielsweise ChatGPT oder der Bildgenerator Midjourney haben sich in weniger Zeit rasant weiterentwickelt. "Sprachmodelle wie ChatGPT werden auch Robotik revolutionieren. Mit Sprachmodellen werden wir physische Roboter steuern können", sagte Oliver Bendel, Professor für Maschinen- und Roboterethik an der Fachhochschule Nordwestschweiz, an der Konferenz. "Das verändert alles."
image
Oliver Bendel, Professor für Maschinen- und Roboterethik an der Fachhochschule Nordwestschweiz
Erst kürzlich forderten IT-Expertinnen und Experten eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Das Bedürfnis nach Regulierung ist da.
Nach einem Verbot von ChatGPT in Italien hat sich auch der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (Edöb) zum Thema geäussert: Er stehe mit seinen europäischen Amtskolleginnen und Kollegen in Verbindung und werde die Situation weiter beobachten.
Die Schweiz ist aber auf internationaler Ebene aktiv. Sie engagiert sich stark im KI-Komitee des Europarats, das sich um einen einheitlichen Rechtsrahmen kümmern soll.

Grundrechte bei der KI-Regulierung

Nun tüfteln die EU-Kommission, das Parlament und die EU-Mitgliedsstaaten seit gut 2 Jahren am AI Act – dem ersten Regelwerk für Künstliche Intelligenz.
Der Rechtsrahmen definiert 4 Risikostufen für KI: Unacceptable risk, High risk, Limited risk und Minimal risk. Systeme mit hohem Risiko umfassen Dinge wie den Einsatz von KI bei der Personalbeschaffung. Unternehmen, die diese Technologien verwenden, sind verpflichtet, den EU-Regulierungsbehörden neben der Prüfung durch Dritte regelmässige Berichte über ihre Technologie vorzulegen.
image
Angela Müller, Leiterin Algorithmwatch.
"Aber auch ein System, das vielleicht nicht in diese Einstufung kommt, kann grosse Auswirkungen haben. Es muss also aktualisierbar sein", erklärte Angela Müller, Leiterin Algorithmwatch. Man müsse die Pflichten für Anwender sowie für Anbieter stärken, um so gut wie möglich Grundrechtsschutz zu ermöglichen. Derzeit sei im ganzen AI Act nämlich nicht von Grundrechtsträgern die Rede: "Können wir so wirklich Grundrechte schützen?"

"Reicht Trittbrettfahren bei der EU"?

Auch für die Schweiz stellen sich einige Fragen. Aktuell sieht der Bundesrat "keinen unmittelbaren Handlungsbedarf" bezüglich der EU-Digitalstrategie und Regulierungen, schrieb er erst kürzlich in einer Mitteilung. Der neue Rechtsrahmen der EU wird sich hierzulande aber genauso auswirken. Schweizer Unternehmen, die ihre Produkte in der EU anbieten, müssen die Gesetze einhalten.
Eine fehlende Regulierung seitens der Schweiz könnte zwar ein Standortvorteil sein, aber zu welchem Preis? "Es könnten ohne Regulierungen Grundrechte verletzt werden. Wir müssen uns fragen, ob EU-Trittbrettfahren reicht oder ob auch wir eine zusätzliche Verantwortung haben", erklärt Angela Müller. Ausserdem führt das auch zu einer Rechtsunsicherheit bei Schweizer Firmen.
Ohne angemessene Regulation könnten KI-Systeme gesellschaftliche Probleme wie etwa Diskriminierung zunehmend verschlimmern, heisst es in den Vorträgen zur digitalen Ethik mehrfach.
Einige sehen das etwas anders. Regulierung und Regeln seien gut, "man sollte aber nicht nur das Schlechte in Künstlicher Intelligenz sehen. Die Entwicklungen bringen auch positive Auswirkungen mit sich", heisst es im Panel zum Abschluss der Konferenz. Es brauche Zeit, neue Richtlinien konkret umzusetzen.
"Wir sollten nicht in den Reflex fallen, dass alles an KI böse und schlecht ist", erklärt Bea Knecht, Gründerin von Zattoo und Unternehmerin. "Wir müssen die Entwicklung von KI ernst nehmen und uns weiterentwickeln, mit den Chancen, die sich für alle bietet."

Loading

Kommentare

Anmeldung wird geprüft …

Mehr zum Thema

image

PwC und Microsoft: KI mit Geschäftsnutzen

Microsoft zeichnet PwC weltweit und in der EMEA-Region aus. Im Fokus der Zusammenarbeit steht die Frage, wie Cloud und KI im Unternehmen Geschäftsnutzen schaffen. PwC Schweiz verbindet dafür lokale Kundennähe mit globaler Expertise.

image

KI im Unternehmen: Wer behält die Kontrolle?

Künstliche Intelligenz hält Einzug in Schweizer Unternehmen. Doch mit der Nutzung wachsen auch die Anforderungen an Datenschutz, Governance und Kostenkontrolle. LAKE Solutions zeigt, wie sich KI sicher und wirtschaftlich als Business Service betreiben lässt.

imageAbo

Bundesrat lehnt ersten Vorstoss zum KI-Gipfel ab

Eine Motion im Parlament fordert "Internationale Regeln für schwere KI-Risiken". Die Regierung teilt teilweise das Anliegen.

publiziert am 13.11.2026
imageAbo

"Abraxas ist für KI und Souveränität gut aufgestellt"

Abraxas-CEO Reto Gutmann und Verwaltungsratspräsident Markus Gemperle berichten im Interview, dass KI und digitale Souveränität für Schweizer Verwaltungen hoch im Kurs stehen.

publiziert am 13.11.2026