"Die Minimierung des Risikos der Auslöschung der Menschheit durch KI sollte weltweit höchste Priorität haben", heisst es in einem Statement der gemeinnützigen Organisation Center for AI Safety. Das Ziel sollte auf einer Stufe mit anderen Risiken stehen, welche wie etwa Pandemien oder Atomkriege die gesamte Gesellschaft bedrohen.

Die Erklärung unterzeichnet haben KI-Pioniere wie etwa Sam Altman, CEO von OpenAI, Demis Hassabis, Chef von Google DeepMind, und Microsofts Technikchef Kevin Scott.

Auch Taiwans Digitalministerin Audrey Tang sowie weitere KI-Fachleute aus der Forschung und der Wirtschaft stehen auf der Liste. Insgesamt wurde der offene Brief von mehr als 350 Führungskräften, Forscherinnen und Ingenieuren unterzeichnet.

In einem kürzlich veröffentlichten Interview mit dem 'Spiegel' sagte Sam Altman, er sei "sehr besorgt, dass mithilfe von KI-Systemen biologische Kampfstoffe entwickelt werden könnten. Es ist entscheidend, dass wir in einem demokratischen Prozess die Grenzen für diese Technologie bestimmen und als Menschen die Kontrolle behalten. Im Übrigen brauchen wir auch als Unternehmen Klarheit und sollten deshalb reguliert werden."

Schon seit Monaten warnt Big Tech vor KI-Risiken. Angefangen hat es mit der Forderung nach einem Moratorium. In einem offenen Brief forderten Experten und Führungskräfte aus der IT-Branche eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Zu den Unterzeichnern gehörten etwa Elon Musk, der auch Mitgründer von OpenAI ist, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich.

Der Brief wurde von mehr als tausend Personen unterzeichnet. Die Verfasser äusserten darin ihre Sorge, dass die derzeitigen Entwicklungen "ausser Kontrolle" laufen könnten. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind". Das derzeitige Wettrennen würde solche Ansätze aber verhindern.

Auch der Deep-Learning-Pionier sowie VP und Engineering Fellow bei Google, Geoffrey Hinton, äusserte seine Zweifel und Bedenken über die möglichen Gefahren von Künstlicher Intelligenz. Er wolle offen über die Risiken von KI sprechen können. Er habe neue Ängste vor der Technologie und ein Teil von ihm bedauere gar sein Lebenswerk, so der 75-Jährige in einem Interview mit der 'New York Times'.