KI-Experten warnen vor Ende der Menschheit

31. Mai 2023 um 13:33
image
Foto: Zapp2Photo / Shutterstock

Mehr als 350 Personen, darunter Führungskräfte von OpenAI und Google, haben eine Erklärung unterzeichnet. Die Warnung besteht aus einem einzigen Satz.

"Die Minimierung des Risikos der Auslöschung der Menschheit durch KI sollte weltweit höchste Priorität haben", heisst es in einem Statement der gemeinnützigen Organisation Center for AI Safety. Das Ziel sollte auf einer Stufe mit anderen Risiken stehen, welche wie etwa Pandemien oder Atomkriege die gesamte Gesellschaft bedrohen.
Die Erklärung unterzeichnet haben KI-Pioniere wie etwa Sam Altman, CEO von OpenAI, Demis Hassabis, Chef von Google DeepMind, und Microsofts Technikchef Kevin Scott.
Auch Taiwans Digitalministerin Audrey Tang sowie weitere KI-Fachleute aus der Forschung und der Wirtschaft stehen auf der Liste. Insgesamt wurde der offene Brief von mehr als 350 Führungskräften, Forscherinnen und Ingenieuren unterzeichnet.
In einem kürzlich veröffentlichten Interview mit dem 'Spiegel' sagte Sam Altman, er sei "sehr besorgt, dass mithilfe von KI-Systemen biologische Kampfstoffe entwickelt werden könnten. Es ist entscheidend, dass wir in einem demokratischen Prozess die Grenzen für diese Technologie bestimmen und als Menschen die Kontrolle behalten. Im Übrigen brauchen wir auch als Unternehmen Klarheit und sollten deshalb reguliert werden."

Ganz Big Tech warnt vor KI-Risiken

Schon seit Monaten warnt Big Tech vor KI-Risiken. Angefangen hat es mit der Forderung nach einem Moratorium. In einem offenen Brief forderten Experten und Führungskräfte aus der IT-Branche eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Zu den Unterzeichnern gehörten etwa Elon Musk, der auch Mitgründer von OpenAI ist, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich.
Der Brief wurde von mehr als tausend Personen unterzeichnet. Die Verfasser äusserten darin ihre Sorge, dass die derzeitigen Entwicklungen "ausser Kontrolle" laufen könnten. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind". Das derzeitige Wettrennen würde solche Ansätze aber verhindern.
Auch der Deep-Learning-Pionier sowie VP und Engineering Fellow bei Google, Geoffrey Hinton, äusserte seine Zweifel und Bedenken über die möglichen Gefahren von Künstlicher Intelligenz. Er wolle offen über die Risiken von KI sprechen können. Er habe neue Ängste vor der Technologie und ein Teil von ihm bedauere gar sein Lebenswerk, so der 75-Jährige in einem Interview mit der 'New York Times'.

Loading

Mehr zum Thema

image

Unispital Zürich ersetzt On-Prem-Skype durch Microsoft 365

Das USZ will in der Kommunikation konsequent auf Microsofts Cloud setzen. Dies zeigt eine interne Nachricht an die Mitarbeitenden.

publiziert am 28.9.2023 1
image

Schweizer Startup für Gesundheitsdaten erhält 3,4 Millionen Dollar

Tune Insight will mit KI Daten sicher nutzbar machen. Im Fokus sind Spitäler.

publiziert am 28.9.2023
image

Post bietet digitalen Briefeinwurf für KMU

Zusammen mit Klara hat die Schweizer Post einen virtuellen Briefkasten entwickelt. Der Konzern adressiert damit KMU, hält sich mit konkreten Zielsetzungen aber bedeckt.

publiziert am 28.9.2023 1
image

OpenAI lässt ChatGPT von der Leine

Der Konzern hat seinem KI-System einen Zugang zum Internet gegeben. So ist der Chatbot nicht länger auf sein Wissen von vor September 2021 beschränkt.

publiziert am 28.9.2023