IT-Prominenz fordert Denkpause für KI-Entwicklung

29. März 2023 um 13:42
image
Auch Steve Wozniak hat den offenen Brief unterzeichnet. Foto: Gage Skidmore / Flickr / Lizenz: CC BY-SA 2.0

Das KI-Wettrüsten spitzt sich immer mehr zu. In einem offenen Brief fordern Experten aus der Tech-Industrie Regulierungen, bevor es zu spät ist.

Seit Ende 2022 die ersten KI-Sprachbots vorgestellt wurden, ist das Thema Künstliche Intelligenz auch im Mainstream angekommen. Was früher nur Wissenschaftler oder Technologieinteressierte beschäftigte, ist heute für viele Menschen zugänglich. Die Entwicklungen im Bereich laufen mittlerweile so rasant, dass fast täglich irgendwelche Neuheiten präsentiert werden. Manchen Leuten geht das jedoch zu schnell:
In einem offenen Brief fordern Experten und Führungskräfte aus der IT-Branche eine sechsmonatige Pause beim Trainieren neuer, leistungsfähiger KI-Systeme. Zu den Unterzeichnern gehören etwa Elon Musk, der auch Mitgründer von OpenAI ist, Apple-Mitgründer Steve Wozniak und zahlreiche renommierte Forschende aus dem KI-Bereich.
Der Brief wurde mittlerweile von mehr als tausend Personen unterzeichnet. Die Verfasser äussern darin ihre Sorge, dass die derzeitigen Entwicklungen "ausser Kontrolle" laufen könnten. "Leistungsstarke KI-Systeme sollen erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", ist in dem Schreiben zu lesen. Das derzeitige Wettrennen würde solche Ansätze aber verhindern.

Keine neuen Black-Boxes schaffen

Mit einer Pause soll geklärt werden, wie eine Flut an Falschinformationen durch Künstliche Intelligenz verhindert werden kann, welche Arbeitsstellen durch die Automatisierung gefährdet sind oder was passiert, wenn nicht-menschliche Intelligenzen entwickelt werden, die uns überlegen sind, uns überlisten und überflüssig machen könnten. "Diese Entscheidungen dürfen nicht an Technikführer delegiert werden", heisst es im Brief.
Deshalb fordern die Autoren alle KI-Labors auf, das Training von KI-Systemen, die leistungsfähiger sind als das Sprachmodell GPT4 von OpenAI, ab sofort für mindestens 6 Monate zu unterbrechen. Während dieser Zeit sollen die Unternehmen zusammen mit unabhängigen Experten gemeinsame Sicherheitsprotokolle für fortschrittliche KI-Designs und -Entwicklungen entwickeln und umzusetzen.
Die Arbeit soll öffentlich überprüfbar sein und alle wichtigen Akteure sollen miteinbezogen werden. Dabei warnen die Unterzeichnenden auch: "Wenn eine solche Pause nicht schnell umgesetzt wird, sollen die Regierungen eingreifen und ein Moratorium verhängen." Die Forderung sei kein genereller Stopp in der KI-Entwicklung, halten die Autoren fest. Es soll lediglich eine Abkehr vom gefährlichen Wettlauf zu immer grösseren, unberechenbaren Black-Box-Modellen mit emergenten Fähigkeiten stattfinden.

Loading

Mehr zum Thema

image

Europäer wollen eigenes OpeneuroLLM entwickeln

Eigene europäische KI-Modelle sollen die EU-Gesetze respektieren und sich für Firmen und Behörden adaptieren lassen. Ihre Mehrsprachigkeit spiegelt die kulturellen Eigenheiten wider.

publiziert am 4.2.2025
image

UBS-IT sieht sich bei CS-Integration auf Kurs

Bis Ende 2026 will die IT der Grossbank alle Applikationen und Server der übernommenen Credit Suisse abgeschaltet haben. Bei der Datenmigration gibt es noch viel zu tun.

publiziert am 4.2.2025
image

KI schützt Inselspital nicht vor Fehldiagnosen

Die Forschenden des Inselspitals sind von der hauseigenen Künstlichen Intelligenz enttäuscht. "Isabel Pro" liefert keine Garantie gegen Fehldiagnosen.

publiziert am 3.2.2025
image

Servicenow legt zu und partnert mit Software­one

Das US-amerikanische Cloud-Unternehmen hat sein Geschäftsjahr mit einem zweistelligen Umsatzplus beendet. Nun soll eine Partnerschaft mit Softwareone mehr Wachstum bringen.

publiziert am 31.1.2025