Für Gutenachtgeschichten, alltägliche Problemlösungen oder doch für das Programmieren einer App: So kann man Künstliche Intelligenz wie etwa den Chatbot ChatGPT für sich nutzen. Doch wo sind die Grenzen bei KI, Big Data und Co.? Und welche Rolle spielen dabei ethische Themen? Genau um diese und andere Fragen ging es an der Shift-Konferenz 2023, die gestern über die Bühne gegangen ist.

KI-Technologien wie beispielsweise ChatGPT oder der Bildgenerator Midjourney haben sich in weniger Zeit rasant weiterentwickelt. "Sprachmodelle wie ChatGPT werden auch Robotik revolutionieren. Mit Sprachmodellen werden wir physische Roboter steuern können", sagte Oliver Bendel, Professor für Maschinen- und Roboterethik an der Fachhochschule Nordwestschweiz, an der Konferenz. "Das verändert alles."

Erst kürzlich forderten IT-Expertinnen und Experten eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Das Bedürfnis nach Regulierung ist da.

Nach einem Verbot von ChatGPT in Italien hat sich auch der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (Edöb) zum Thema geäussert: Er stehe mit seinen europäischen Amtskolleginnen und Kollegen in Verbindung und werde die Situation weiter beobachten.

Die Schweiz ist aber auf internationaler Ebene aktiv. Sie engagiert sich stark im KI-Komitee des Europarats, das sich um einen einheitlichen Rechtsrahmen kümmern soll.

Nun tüfteln die EU-Kommission, das Parlament und die EU-Mitgliedsstaaten seit gut 2 Jahren am AI Act – dem ersten Regelwerk für Künstliche Intelligenz.

Der Rechtsrahmen definiert 4 Risikostufen für KI: Unacceptable risk, High risk, Limited risk und Minimal risk. Systeme mit hohem Risiko umfassen Dinge wie den Einsatz von KI bei der Personalbeschaffung. Unternehmen, die diese Technologien verwenden, sind verpflichtet, den EU-Regulierungsbehörden neben der Prüfung durch Dritte regelmässige Berichte über ihre Technologie vorzulegen.

"Aber auch ein System, das vielleicht nicht in diese Einstufung kommt, kann grosse Auswirkungen haben. Es muss also aktualisierbar sein", erklärte Angela Müller, Leiterin Algorithmwatch. Man müsse die Pflichten für Anwender sowie für Anbieter stärken, um so gut wie möglich Grundrechtsschutz zu ermöglichen. Derzeit sei im ganzen AI Act nämlich nicht von Grundrechtsträgern die Rede: "Können wir so wirklich Grundrechte schützen?"

Auch für die Schweiz stellen sich einige Fragen. Aktuell sieht der Bundesrat "keinen unmittelbaren Handlungsbedarf" bezüglich der EU-Digitalstrategie und Regulierungen, schrieb er erst kürzlich in einer Mitteilung. Der neue Rechtsrahmen der EU wird sich hierzulande aber genauso auswirken. Schweizer Unternehmen, die ihre Produkte in der EU anbieten, müssen die Gesetze einhalten.

Eine fehlende Regulierung seitens der Schweiz könnte zwar ein Standortvorteil sein, aber zu welchem Preis? "Es könnten ohne Regulierungen Grundrechte verletzt werden. Wir müssen uns fragen, ob EU-Trittbrettfahren reicht oder ob auch wir eine zusätzliche Verantwortung haben", erklärt Angela Müller. Ausserdem führt das auch zu einer Rechtsunsicherheit bei Schweizer Firmen.

Ohne angemessene Regulation könnten KI-Systeme gesellschaftliche Probleme wie etwa Diskriminierung zunehmend verschlimmern, heisst es in den Vorträgen zur digitalen Ethik mehrfach.

Einige sehen das etwas anders. Regulierung und Regeln seien gut, "man sollte aber nicht nur das Schlechte in Künstlicher Intelligenz sehen. Die Entwicklungen bringen auch positive Auswirkungen mit sich", heisst es im Panel zum Abschluss der Konferenz. Es brauche Zeit, neue Richtlinien konkret umzusetzen.

"Wir sollten nicht in den Reflex fallen, dass alles an KI böse und schlecht ist", erklärt Bea Knecht, Gründerin von Zattoo und Unternehmerin. "Wir müssen die Entwicklung von KI ernst nehmen und uns weiterentwickeln, mit den Chancen, die sich für alle bietet."