KI-Experten warnen vor Ende der Menschheit

31. Mai 2023 um 13:33
image
Foto: Zapp2Photo / Shutterstock

Mehr als 350 Personen, darunter Führungskräfte von OpenAI und Google, haben eine Erklärung unterzeichnet. Die Warnung besteht aus einem einzigen Satz.

"Die Minimierung des Risikos der Auslöschung der Menschheit durch KI sollte weltweit höchste Priorität haben", heisst es in einem Statement der gemeinnützigen Organisation Center for AI Safety. Das Ziel sollte auf einer Stufe mit anderen Risiken stehen, welche wie etwa Pandemien oder Atomkriege die gesamte Gesellschaft bedrohen.
Die Erklärung unterzeichnet haben KI-Pioniere wie etwa Sam Altman, CEO von OpenAI, Demis Hassabis, Chef von Google DeepMind, und Microsofts Technikchef Kevin Scott.
Auch Taiwans Digitalministerin Audrey Tang sowie weitere KI-Fachleute aus der Forschung und der Wirtschaft stehen auf der Liste. Insgesamt wurde der offene Brief von mehr als 350 Führungskräften, Forscherinnen und Ingenieuren unterzeichnet.
In einem kürzlich veröffentlichten Interview mit dem 'Spiegel' sagte Sam Altman, er sei "sehr besorgt, dass mithilfe von KI-Systemen biologische Kampfstoffe entwickelt werden könnten. Es ist entscheidend, dass wir in einem demokratischen Prozess die Grenzen für diese Technologie bestimmen und als Menschen die Kontrolle behalten. Im Übrigen brauchen wir auch als Unternehmen Klarheit und sollten deshalb reguliert werden."

Ganz Big Tech warnt vor KI-Risiken

Schon seit Monaten warnt Big Tech vor KI-Risiken. Angefangen hat es mit der Forderung nach einem Moratorium. In einem offenen Brief forderten Experten und Führungskräfte aus der IT-Branche eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Zu den Unterzeichnern gehörten etwa Elon Musk, der auch Mitgründer von OpenAI ist, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich.
Der Brief wurde von mehr als tausend Personen unterzeichnet. Die Verfasser äusserten darin ihre Sorge, dass die derzeitigen Entwicklungen "ausser Kontrolle" laufen könnten. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind". Das derzeitige Wettrennen würde solche Ansätze aber verhindern.
Auch der Deep-Learning-Pionier sowie VP und Engineering Fellow bei Google, Geoffrey Hinton, äusserte seine Zweifel und Bedenken über die möglichen Gefahren von Künstlicher Intelligenz. Er wolle offen über die Risiken von KI sprechen können. Er habe neue Ängste vor der Technologie und ein Teil von ihm bedauere gar sein Lebenswerk, so der 75-Jährige in einem Interview mit der 'New York Times'.

Loading

Mehr erfahren

Mehr zum Thema

image

Rivella modernisiert Datenspeicherung mit HPE.

Als bei Rivella das wichtige Storage-System erneuert werden musste, implementierte Bechtle zwei HPE Alletra Storages mit der HPE GreenLake Technologie und übernahm den Service dazu. Das neue System von Hewlett Packard Enterprise überzeugt durch herausragende Leistung bei hoher Datenverfügbarkeit.

image

Google: KI-Suche und eine Antwort auf ChatGPT-4o

Die mit KI angereicherte Suche wirft ernste Fragen für Site-Betreiber auf. Google kündigte auch viele weitere KI-Neuerungen an.

publiziert am 15.5.2024
image

Machen xAI und Oracle bei KI gemeinsame Sache?

Gerüchten zufolge will das KI-Startup von Elon Musk GPU-Server bei Oracle mieten. Dafür sollen 10 Milliarden Dollar fliessen.

publiziert am 15.5.2024
image

Swiss Digital Initiative trimmt Label auf KI

Mit einem aktualisierten Kriterienkatalog soll der vertrauenswürdige und verantwortungsvolle Einsatz von KI vorangetrieben werden.

publiziert am 14.5.2024