KI-Modelle wie ChatGPT oder Midjourney haben sich innert kürzester Zeit rasant verbreitet und damit auch die Aufmerksamkeit von Regulierungsbehörden auf sich gezogen. Nach einem Verbot von ChatGPT in Italien hat sich auch der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (Edöb) zum Thema geäussert, allerdings sehr zurückhaltend: Er stehe mit seinen europäischen Amtskolleginnen und Kollegen in Verbindung und werde die Situation weiter beobachten.

Diese Amtskollegen haben jetzt im Rahmen des Datenschutzausschusses der EU (EDPB) eine Taskforce zu ChatGPT eingerichtet. Ziel ist es, eine gemeinsame Grundlage zur Festlegung von Datenschutzregeln für KI in der Union zu schaffen.

Der Schritt folgt auf den Entscheid in Italien von Ende März. Die dortige Datenschutzstelle (GPDP) hatte "mit sofortiger Wirkung die vorläufige Einschränkung der Verarbeitung der Daten italienischer Nutzer" durch ChatGPT angekündigt. Der Service ist im Land seither blockiert.

Mittlerweile hat die GPDP Massnahmen von OpenAI gefordert, die das Unternehmen bis Ende April umsetzen muss. Die Behörde fordert unter anderem ein Recht auf Korrektur oder Entfernung von fehlerhaften Informationen, eine Aufklärungskampagne über die Funktionsweise von ChatGPT und der verwendeten Trainingsdaten sowie eine Verifikation des Alters der User.

Darüber hinaus sollen Nicht-Nutzer von ChatGPT Rechte erhalten, wenn KI-Texte über sie erzeugt werden: Es brauche Werkzeuge, die es Personen ermöglichen, Berichtigung von fehlerhaft erzeugten personenbezogenen Daten zu erwirken oder diese Daten löschen zu lassen, "wenn sich eine Berichtigung als technisch nicht durchführbar erweist", wie es weiter heisst.

Die von Italien geforderten Massnahmen werden jetzt auch auf EU-Ebene diskutiert, wie das EDPB mitteilt. Einer Quelle von 'Reuters' zufolge, sei es nicht das Ziel des EDPB, OpenAI zu bestrafen. Vielmehr will sie allgemeine und transparente Richtlinien schaffen.

Das EDPB ist ein unabhängiges Gremium, das sich aus nationalen Datenschutzbeauftragten zusammensetzt und die Datenschutzbestimmungen in der Union überwacht.

Geht es nach Algorithmwatch sind Massnahmen dringend nötig. General Purpose AI (GPAI) berge eine Reihe von Gefahren. "Bereits jetzt machen es die Systeme möglich, auf einfachste Art und Weise täuschend echt aussehende, irreführende, manipulative Bilder zu produzieren und gewaltige Mengen an Falschnachrichten sehr schnell und zu extrem geringen Kosten zu erzeugen", so die Organisation. Ausserdem bestünden Gefahren für die Grundrechte, nicht diskriminiert und in der Privatsphäre genügend geschützt zu werden.

Kürzlich forderten eine Reihe von Experten eine "Denkpause" für AI. In dieser Zeit solle geklärt werden, wie eine Flut an Falschinformationen durch Künstliche Intelligenz verhindert werden kann, welche Arbeitsstellen durch die Automatisierung gefährdet sind oder was passiert, wenn nicht-menschliche Intelligenzen entwickelt werden, die uns überlegen sind, uns überlisten und überflüssig machen könnten.

"Unternehmen wie Microsoft, Google oder Meta, die zum Teil Milliarden in die Entwicklung von GPAI stecken, zu bitten, die Arbeiten daran kurzzeitig auszusetzen, wird die Welt nicht vor negativen Auswirkungen schützen", so Angela Müller, Leiterin von Algorithmwatch Schweiz. Vielmehr müsse den Unternehmen hinter den Systemen klargemacht werden, dass sie die Verantwortung dafür, wie die Systeme genutzt werden, nicht länger abwälzen können.

Somit sei auch die Politik gefragt. Im Rahmen des 2021 vorgestellten AI Acts befasst sich die EU auch mit dem Thema ChatGPT respektive GPAI. Dabei geht es unter anderem um die Frage, ob GPAI als "Hochrisiko"-KI-Systeme klassifiziert werden sollen. Für diese Anwendungen wird es strengere Auflagen geben.

Die EU-Verordnung wird derzeit in Brüssel verhandelt. "Die Schweiz muss sich jetzt entscheiden, ob sie weiter abwartet und darauf hofft, bei der EU Trittbrett fahren zu können, oder ob ihr dies zum Schutz vor den aktuellen Risiken durch GPAI nicht ausreicht", schreibt Algorithmwatch.