ETH-Experten sind gegen KI-Moratorium

3. April 2023 um 10:21
image
ETH-Forscher Andreas Krause (l.) und Alexander Ilic. Foto: Nicola Pitaro / ETH Zürich

Die Forscher reagieren auf den offenen Brief, der eine "KI-Denkpause" fordert. Auch international wird Kritik geäussert.

Vertreter der ETH Zürich sind gegen ein Moratorium bei der Entwicklung der Künstlichen Intelligenz (KI). Sie halten dies für schwer durchsetzbar und sehen auch Risiken. Die Forscher reagieren auf einen offenen Brief von IT-Prominenz und internationalen KI-Experten. Darin fordern diese Regulierungen und ein sechsmonatiges KI-Moratorium.
Andreas Krause, ETH-Informatikprofessor und Vorsteher des ETH-Zentrums für Künstliche Intelligenz (AI Center), sagte in einem Interview mit 'ETH-News', er bezweifle, dass die Forderung nach einem Moratorium durchsetzbar sei. Dahinter würden zu viele kommerzielle und strategische Interessen stehen.
"Auch wenn ein solches Moratorium beschlossen werden würde, könnte wohl niemand sicherstellen, dass nicht weiter verdeckt am Training solcher Modelle gearbeitet wird", sagte Krause. Dies berge die Gefahr, dass die Entwicklung, die vorher weitgehend offen und transparent gewesen sei, unzugänglicher und intransparenter werde.

Keine Forschung hinter verschlossenen Türen

Der Geschäftsführer des ETH-AI-Centers, Alexander Ilic, äussert im Interview die Meinung, Elemente wie Vertrauenswürdigkeit und Zuverlässigkeit bei den aktuellen Sprachmodellen müssten stärker erforscht und kritisch diskutiert werden. "Wir wollen dem Trend entgegenwirken, dass KI-Forschung immer mehr hinter verschlossenen Türen stattfindet und setzen auf offene, interdisziplinäre Zusammenarbeit", so Ilic.
Der offene Brief mit dem Titel "Riesige KI-Experimente anhalten" wurde bis jetzt von über 3000 Personen unterschrieben. Zu den Erst-Unterzeichnern gehören etwa Elon Musk, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", ist eine der Forderungen.

Organisation wird von Musk Foundation finanziert

Kritik am Brief wird aber nicht nur in der Schweiz geäussert. Ein Vorwurf lautet, dass das Future of Life Institute (FLI), die Organisation hinter dem Brief, hauptsächlich von der Musk Foundation finanziert wird. Auch KI-Expertinnen und -Experten, deren Arbeiten vom FLI zitiert werden, gehen auf Distanz.
Margaret Mitchell, die die ethische KI-Forschung bei Google leitete und jetzt bei der KI-Firma Hugging Face arbeitet, erklärte gegenüber 'Reuters': "Indem viele fragwürdige Ideen als gegeben behandelt werden, behauptet der Brief eine Reihe von Prioritäten und eine Erzählung über KI, die den Unterstützern von FLI zugute kommt."

Nicht alle gehen auf Distanz

Auch Shiri Dori-Hacohen, Assistenzprofessorin an der University of Connecticut, kritisierte die Erwähnung ihrer Arbeit in dem Brief. Ihre Forschung argumentiert, dass der heutige Einsatz von KI-Systemen die Entscheidungsfindung in Bezug auf Klimawandel, Atomkrieg und andere existenzielle Bedrohungen beeinflussen könnte. Sie sagte zu 'Reuters': "KI muss keine Intelligenz auf menschlicher Ebene erreichen, um diese Risiken zu verschärfen."
Dan Hendrycks, Direktor des in Kalifornien ansässigen Zentrums für KI-Sicherheit, der ebenfalls in dem Schreiben zitiert wird, steht hingegen zu dessen Inhalt. Er erklärte, es sei vernünftig, "black swan events" in Betracht zu ziehen. Ereignisse, die zwar unwahrscheinlich erscheinen, aber verheerende Folgen haben könnten.
(Mit Material von Keystone-sda)

Loading

Mehr erfahren

Mehr zum Thema

image

Coop setzt auf KI und neue SAP-Lösung

Eine zusammen mit SAP entwickelte Warenversorgungs-Lösung wird gerade ausgerollt. Eine eigene KI für Mitarbeitende ist ebenfalls geplant.

publiziert am 12.4.2024
image

Weshalb IoT für Künstliche Intelligenz wichtig ist

Big Tech sammelt viele persönliche Informationen. Mit dem Aufkommen von IoT-Geräten werden aber auch immer mehr technische Daten dazukommen.

publiziert am 12.4.2024
image

Google testet KI-Antworten in Suchergebnissen

Steht bald ein grosses Update für die Suchmaschine bevor? Google mischt testweise KI-generierte Antworten unter die Suchresultate.

publiziert am 11.4.2024
image

Google liest öffentliche Docs für KI-Trainings

Es ist wenig überraschend, aber doch augenöffnend: Alles, was online und öffentlich ist, wird für KI-Trainings genutzt. Unter bestimmten Bedingungen auch Google Docs.

publiziert am 11.4.2024