Nach Hacking-Attacken durch Künstliche Intelligenz haben die Chefs der grössten US-amerikanischen KI-Firmen erstmals vor dem UNO-Sicherheitsrat vor den Risiken der KI gewarnt. "Wir sind an einem Scheideweg angelangt", sagte OpenAI-Chef Sam Altman in New York.

"Dieser Zeitpunkt verlangt nach extremer Vorsicht." Es gebe besonders zwei grosse Risiken: den Verlust der Kontrolle über KI und die "Konzentration von zu viel Macht in zu wenigen Händen".

KI sei "die grösste Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist", sagte der per Video zugeschaltete Chef von Anthropic, Dario Amodei. "Bei schlechter Handhabung glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte." Es war der erste Auftritt der Firmenchefs vor dem Sicherheitsrat und das erste Mal, dass sich das Gremium während der Generaldebatte – der wichtigsten UNO-Woche des Jahres – mit dem Thema beschäftigte.

Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war. Daraufhin hatten sich grosse amerikanische KI-Firmen wie OpenAI und Anthropic dazu bereit erklärt, die Entwicklung der Technologie zu verlangsamen – was Kritikerinnen und Kritiker schon lange gefordert hatten.

OpenAI-Chef Altman betonte seine Bereitschaft dazu nun erneut. "Wir haben in der Vergangenheit schon einseitig verlangsamt. Wir werden das in Zukunft wieder tun." Niemand sollte KI-Modelle entwickeln, von denen er nicht garantieren könnte, dass er sie unter menschlicher Kontrolle halten könne. Altman gab aber auch zu: "Wir haben nicht alle Antworten und sind offen für jegliche bessere Idee."

Anthropic-Chef Amodei forderte globale kooperative Massnahmen zur Eindämmung der Risiken – unter anderem mit gemeinsamen Standards, Inspektoren, mehr Transparenz und einer Einigung darauf, KI nicht für die Entwicklung von biologischen Waffen zu nutzen.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weissen Haus von US-Präsident Donald Trump – ist der Wettlauf mit China.