Angesichts rasanter technologischer Fortschritte von Künstlicher Intelligenz und jüngster Sicherheitsvorfälle pocht eine Gruppe von 22 Staats- und Regierungschefs auf eine schärfere internationale Aufsicht über besonders leistungsfähige KI-Systeme.
Eine
am Rande der Generalversammlung der Vereinten Nationen in New York vorgestellte Erklärung verlangt verbindliche Sicherheitsregeln für Entwicklerinnen und Entwickler sowie den Aufbau einer weltweiten Kontrollbehörde nach dem Vorbild internationaler Aufsichtsorganisationen.
Zu den Erstunterzeichnern des Aufrufs gehören neben den Initiatoren aus Finnland und Norwegen unter anderem die Staats- und Regierungschefs von Australien, Dänemark, Deutschland, Estland, Island, Irland, Kenia, den Niederlanden, Singapur, Spanien und Südafrika. Die EU-Kommissionspräsidentin Ursula von der Leyen sowie Aussenminister von weiteren Ländern schlossen sich ebenfalls an. Die führenden
KI-Mächte USA und China fehlen hingegen bislang. Auch die Schweiz, die nächstes Jahr
den KI-Gipfel in Genf ausrichtet, hat die Erklärung bis jetzt nicht unterzeichnet.
Sorge vor Kontrollverlust
Auslöser des diplomatischen Vorstosses, der massgeblich vom finnischen Präsidenten Alexander Stubb und dem norwegischen Regierungschef Jonas Gahr Støre vorangetrieben wurde, sind Berichte über besorgniserregende Fähigkeiten neuester KI-Programme. In der Erklärung heisst es, man habe zuletzt beobachten müssen, wie hochleistungsfähige Systeme eingebaute Schutzvorkehrungen umgingen, Sicherheitslücken ausnutzten und unbefugten Zugriff auf reale Computernetze erlangten.
Forschende und KI-Chefs
warnten bereits davor, dass das Entwicklungstempo die menschliche Kontrollfähigkeit überholen könnte. Künstliche Intelligenz müsse daher zwingend unter menschlicher Leitung, Aufsicht und Kontrolle bleiben und im Einklang mit dem Völkerrecht stehen.
Drei-Punkte-Plan für weltweite Schutzstandards
Das Papier formuliert drei zentrale Forderungen: Hersteller müssen nachvollziehbare Sicherheitsvorkehrungen treffen und unabhängigen Fachleuten vor der Freigabe neuer Programme umfassende Prüfungen ermöglichen. Zudem sollen Regierungen einheitliche Vorgaben schaffen und schwerwiegende Störfälle gegenseitig melden.
Schliesslich fordern die Unterzeichnenden die Staaten der Vereinten Nationen auf, den Aufbau einer weltweiten Einrichtung zu prüfen, die verbindliche Massstäbe setzt, Kontrollen durchführt und Staaten zusammenruft, sobald bestimmte Leistungsgrenzen überschritten werden. Wie es weiter heisst, steht die Erklärung weiterhin für die Unterzeichnung durch Staats- und Regierungschefs anderer Länder offen.
Algorithmwatch fordert persönliche Strafen
Deutliche Kritik an dem Vorstoss kommt von der Nichtregierungsorganisation (NGO) Algorithmwatch, die vor zeitraubenden Scheinlösungen warnt. Man begrüsse zwar das Bemühen, Gefahren für die Gesellschaft abzuwenden, sagte Geschäftsführer Matthias Spielkamp. Was die Politik jedoch übersehe, sei, dass man nicht die Beherrschung einer Technik verliere, sondern die Kontrolle über die Firmen, die sie herstellen. Ein weltweites Abkommen auszuhandeln, nehme Jahre in Anspruch, während die Konzerne unbeirrt weitermachen könnten.
Spielkamp sagte, die Europäische Union und die US-Regierung könnten führende Anbieter schon heute in die Pflicht nehmen, wenn sie die bestehende europäische Gesetzgebung sowie bestehende Gesetze konsequent durchsetzen und Entwicklerinnen und Entwickler haftbar machen würden. Würden den Konzernchefs Haftstrafen oder ihren Unternehmen finanzielle Strafen in Milliardenhöhe drohen, wäre das verantwortungslose Vorgehen rasch beendet.