KI-Experten warnen vor Ende der Menschheit

31. Mai 2023 um 13:33
image
Foto: Zapp2Photo / Shutterstock

Mehr als 350 Personen, darunter Führungskräfte von OpenAI und Google, haben eine Erklärung unterzeichnet. Die Warnung besteht aus einem einzigen Satz.

"Die Minimierung des Risikos der Auslöschung der Menschheit durch KI sollte weltweit höchste Priorität haben", heisst es in einem Statement der gemeinnützigen Organisation Center for AI Safety. Das Ziel sollte auf einer Stufe mit anderen Risiken stehen, welche wie etwa Pandemien oder Atomkriege die gesamte Gesellschaft bedrohen.
Die Erklärung unterzeichnet haben KI-Pioniere wie etwa Sam Altman, CEO von OpenAI, Demis Hassabis, Chef von Google DeepMind, und Microsofts Technikchef Kevin Scott.
Auch Taiwans Digitalministerin Audrey Tang sowie weitere KI-Fachleute aus der Forschung und der Wirtschaft stehen auf der Liste. Insgesamt wurde der offene Brief von mehr als 350 Führungskräften, Forscherinnen und Ingenieuren unterzeichnet.
In einem kürzlich veröffentlichten Interview mit dem 'Spiegel' sagte Sam Altman, er sei "sehr besorgt, dass mithilfe von KI-Systemen biologische Kampfstoffe entwickelt werden könnten. Es ist entscheidend, dass wir in einem demokratischen Prozess die Grenzen für diese Technologie bestimmen und als Menschen die Kontrolle behalten. Im Übrigen brauchen wir auch als Unternehmen Klarheit und sollten deshalb reguliert werden."

Ganz Big Tech warnt vor KI-Risiken

Schon seit Monaten warnt Big Tech vor KI-Risiken. Angefangen hat es mit der Forderung nach einem Moratorium. In einem offenen Brief forderten Experten und Führungskräfte aus der IT-Branche eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Zu den Unterzeichnern gehörten etwa Elon Musk, der auch Mitgründer von OpenAI ist, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich.
Der Brief wurde von mehr als tausend Personen unterzeichnet. Die Verfasser äusserten darin ihre Sorge, dass die derzeitigen Entwicklungen "ausser Kontrolle" laufen könnten. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind". Das derzeitige Wettrennen würde solche Ansätze aber verhindern.
Auch der Deep-Learning-Pionier sowie VP und Engineering Fellow bei Google, Geoffrey Hinton, äusserte seine Zweifel und Bedenken über die möglichen Gefahren von Künstlicher Intelligenz. Er wolle offen über die Risiken von KI sprechen können. Er habe neue Ängste vor der Technologie und ein Teil von ihm bedauere gar sein Lebenswerk, so der 75-Jährige in einem Interview mit der 'New York Times'.

Loading

Mehr zum Thema

imageAbo

IBM Schweiz zu Erfolgsfaktoren von KI-Projekten

Anwendungen von Künstlicher Intelligenz treiben IBM seit Jahrzehnten um. Manager von IBM Schweiz nannten Daten und Infrastruktur als Erfolgsfaktoren von KI-Projekten.

publiziert am 9.7.2025
image

Ein Schweizer Sprachmodell "im Dienste der Gesellschaft"

Die ETH Zürich und die EPFL werden im Spätsommer ein grosses Sprachmodell (LLM) veröffentlichen. Es soll transparent und offen sein und über 1000 Sprachen beherrschen.

publiziert am 9.7.2025
image

Führungskräfte zweifeln an KI-Strategien

Führungskräfte sind laut einer Studie weniger euphorisch hinsichtlich KI als noch vor einem Jahr. Sie erkennen Defizite bei sich selbst und organisatorische Herausforderungen.

publiziert am 8.7.2025
image

Green entwickelt Pumpenantrieb für RZ-Kühlung

Der Datacenter-Anbieter hat einen neuen wassergekühlten Pumpenantrieb konzipiert, der deutlich effizienter sein soll, als es bisherige luftgekühlte Systeme sind.

publiziert am 8.7.2025