Vertreter der ETH Zürich sind gegen ein Moratorium bei der Entwicklung der Künstlichen Intelligenz (KI). Sie halten dies für schwer durchsetzbar und sehen auch Risiken. Die Forscher reagieren auf einen offenen Brief von IT-Prominenz und internationalen KI-Experten. Darin fordern diese Regulierungen und ein sechsmonatiges KI-Moratorium.

Andreas Krause, ETH-Informatikprofessor und Vorsteher des ETH-Zentrums für Künstliche Intelligenz (AI Center), sagte in einem Interview mit 'ETH-News', er bezweifle, dass die Forderung nach einem Moratorium durchsetzbar sei. Dahinter würden zu viele kommerzielle und strategische Interessen stehen.

"Auch wenn ein solches Moratorium beschlossen werden würde, könnte wohl niemand sicherstellen, dass nicht weiter verdeckt am Training solcher Modelle gearbeitet wird", sagte Krause. Dies berge die Gefahr, dass die Entwicklung, die vorher weitgehend offen und transparent gewesen sei, unzugänglicher und intransparenter werde.

Der Geschäftsführer des ETH-AI-Centers, Alexander Ilic, äussert im Interview die Meinung, Elemente wie Vertrauenswürdigkeit und Zuverlässigkeit bei den aktuellen Sprachmodellen müssten stärker erforscht und kritisch diskutiert werden. "Wir wollen dem Trend entgegenwirken, dass KI-Forschung immer mehr hinter verschlossenen Türen stattfindet und setzen auf offene, interdisziplinäre Zusammenarbeit", so Ilic.

Der offene Brief mit dem Titel "Riesige KI-Experimente anhalten" wurde bis jetzt von über 3000 Personen unterschrieben. Zu den Erst-Unterzeichnern gehören etwa Elon Musk, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", ist eine der Forderungen.

Kritik am Brief wird aber nicht nur in der Schweiz geäussert. Ein Vorwurf lautet, dass das Future of Life Institute (FLI), die Organisation hinter dem Brief, hauptsächlich von der Musk Foundation finanziert wird. Auch KI-Expertinnen und -Experten, deren Arbeiten vom FLI zitiert werden, gehen auf Distanz.

Margaret Mitchell, die die ethische KI-Forschung bei Google leitete und jetzt bei der KI-Firma Hugging Face arbeitet, erklärte gegenüber 'Reuters': "Indem viele fragwürdige Ideen als gegeben behandelt werden, behauptet der Brief eine Reihe von Prioritäten und eine Erzählung über KI, die den Unterstützern von FLI zugute kommt."

Auch Shiri Dori-Hacohen mit einr Assistenzprofessorin an der University of Connecticut, kritisierte die Erwähnung ihrer Arbeit in dem Brief. Ihre Forschung argumentiert, dass der heutige Einsatz von KI-Systemen die Entscheidungsfindung in Bezug auf Klimawandel, Atomkrieg und andere existenzielle Bedrohungen beeinflussen könnte. Sie sagte zu 'Reuters': "KI muss keine Intelligenz auf menschlicher Ebene erreichen, um diese Risiken zu verschärfen."

Dan Hendrycks, Direktor des in Kalifornien ansässigen Zentrums für KI-Sicherheit, der ebenfalls in dem Schreiben zitiert wird, steht hingegen zu dessen Inhalt. Er erklärte, es sei vernünftig, "black swan events" in Betracht zu ziehen. Ereignisse, die zwar unwahrscheinlich erscheinen, aber verheerende Folgen haben könnten.