ChatGPT-Erfinder fordert KI-Regulierungen

17. Mai 2023 um 08:13
image
OpenAI-Chef Sam Altman. Foto: Village Global / Flickr / Lizenz: CC BY 2.0

Sam Altman fordert, dass Künstliche Intelligenz auf den Prüfstand gestellt wird. Wer sich nicht an vorgeschriebene Standards hält, dem soll die Lizenz entzogen werden.

Der Chef des ChatGPT-Erfinders OpenAI sieht ein Risiko durch die Verbreitung von Falschinformationen mit Hilfe von Künstlicher Intelligenz. Deshalb hat er sich für eine strikte Regulierung ausgesprochen. Allein schon wegen des massiven Ressourcenverbrauchs werde es nur wenige Unternehmen geben, die Vorreiter beim Training von KI-Modellen sein können, sagte Sam Altman in einer Anhörung vor dem US-Senat in Washington. Er forderte deshalb eine strengere Aufsicht für solche Systeme.
Am aktuellen KI-Hype war sein Unternehmen OpenAI mit dem Text-Automaten ChatGPT massgeblich beteiligt. Das System formuliert Texte, indem Wort um Wort die wahrscheinliche Fortsetzung eines Satzes eingeschätzt wird. Eine Folge dieses Verfahrens ist aktuell, dass die Software neben korrekten Angaben auch völlig falsche Informationen erfindet, die für die Nutzenden aber fast nicht erkennbar sind.
Gleichzeitig ist es für Anwender nicht ersichtlich, woher die Informationen kommen und ob eine Quelle vertrauenswürdig ist. Deswegen gibt es die Befürchtung, dass generative KI zum Beispiel für die Produktion und Verbreitung von Fake News genutzt werden könnte. Eine Sorge, die auch Altman in seiner Anhörung vor dem Senat teilte.

Prüfstand für KI gefordert

Er schlug deshalb die Gründung einer neuen Regierungsbehörde vor, die KI-Modelle auf den Prüfstand stellt. Für Künstliche Intelligenz soll künftig eine Reihe von Sicherheitsüberprüfungen vorgesehen werden. Diese soll etwa feststellen, ob sich die KI eigenständig weiterverbreiten könnte. Unternehmen, die sich nicht an die vorgeschriebenen Standards halten, sollen entsprechend ihre Lizenz verlieren. Dabei sollen die Systeme auch von unabhängigen Experten geprüft werden können.
Altman räumte auch ein, dass die Technologie in Zukunft einige Jobs durch Automatisierung obsolet machen könnte. Zugleich habe sie aber das Potenzial, "viel bessere Arbeitsplätze" zu schaffen. Während der Anhörung schloss Altman auch nicht aus, dass die Programme von OpenAI künftig mit Werbung statt wie bis anhin durch Entgelt finanziert werden könnten.

Loading

Mehr zum Thema

image

Europas Antwort auf Starlink

Im All hinkt Europa den USA und auch Elon Musk hinterher. Das milliardenteure Satellitensystem Iris2 der EU soll das ändern.

publiziert am 6.2.2025
image

Europäer wollen eigenes OpeneuroLLM entwickeln

Eigene europäische KI-Modelle sollen die EU-Gesetze respektieren und sich für Firmen und Behörden adaptieren lassen. Ihre Mehrsprachigkeit spiegelt die kulturellen Eigenheiten wider.

publiziert am 4.2.2025
image

UBS-IT sieht sich bei CS-Integration auf Kurs

Bis Ende 2026 will die IT der Grossbank alle Applikationen und Server der übernommenen Credit Suisse abgeschaltet haben. Bei der Datenmigration gibt es noch viel zu tun.

publiziert am 4.2.2025
image

KI schützt Inselspital nicht vor Fehldiagnosen

Die Forschenden des Inselspitals sind von der hauseigenen Künstlichen Intelligenz enttäuscht. "Isabel Pro" liefert keine Garantie gegen Fehldiagnosen.

publiziert am 3.2.2025