Anthropic propagiert Pause im KI-Wettlauf
5. Juni 2026 um 08:58
Der Claude-Entwickler möchte sicherstellen, dass KI im Interesse der Menschen agiert. Ein Moratorium für leistungsstarke Modelle dürfte aber schwierig umzusetzen sein.
Das KI-Unternehmen Anthropic bringt eine Pause bei der Entwicklung leistungsstarker Künstlicher Intelligenz ins Gespräch. "Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren", hiess es in einem Blogeintrag.
Das Ziel wäre, in dieser Zeit gesellschaftliche Strukturen anzupassen sowie die Forschung voranzutreiben, die sicherstellen soll, dass Künstliche Intelligenz im Interesse der Menschen agiert.
Anthropic räumte ein, dass für einen solchen Schritt ein Einvernehmen der grossen KI-Entwickler notwendig wäre. Bisher ist in der Branche keine Bereitschaft dazu zu erkennen. Die Unternehmen überbieten sich eher mit Plänen, hunderte Milliarden Dollar in KI-Infrastruktur wie gewaltige Rechenzentren zu investieren. Auch Anthropic sammelte kürzlich 65 Milliarden Dollar, die primär in den RZ-Ausbau investiert werden sollen.
Keine einseitige Pause
Auch Anthropic-Chef Dario Amodei hatte etwa auf dem Weltwirtschaftsforum (WEF) in Davos im Januar betont, dass der KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne. Einseitige Pausen lehnt Anthropic ab: Dies würde nur ändern, wer vorn liege.
Als konkrete Massnahme will das Forschungsinstitut der KI-Firma nun gemeinsam mit anderen ein System zur Kontrolle ausarbeiten, das Entwicklern die Sicherheit geben soll, dass sich alle Teilnehmer an ein solches Moratorium halten und sich nicht jemand heimlich einen Vorteil verschafft.
Auch Tech-Milliardär Elon Musk hatte sich vor Jahren für eine sechsmonatige Pause bei der KI-Entwicklung ausgesprochen, um Risiken vorzubeugen. Später wurde bekannt, dass er parallel die Gründung einer eigenen KI-Firma vorantrieb.
KI, die sich selbst weiterentwickelt
Auslöser für den aktuellen Vorstoss ist laut Anthropic der schnelle Fortschritt der KI-Modelle, vor allem bei der Fähigkeit, sich selbst zu verbessern und weiterzuentwickeln. Wenn sie dazu in der Lage sein würden, werde das Risiko steigen, dass die Menschen die Kontrolle über die Künstliche Intelligenz verlieren. Der Meilenstein könne schneller erreicht werden als viele Institutionen dazu bereit sein würden, warnte Anthropic.
Die Firma, die die KI-Software Claude entwickelt, tritt oft als Mahner auf und forderte unter anderem auch eine striktere Regulierung der Branche, um Risiken vorzubeugen. Aus dem Weissen Haus von Präsident Donald Trump wurde Anthropic deswegen vorgehalten, dies würde die US-Industrie im globalen Wettbewerb bremsen.
Zuletzt sorgte Anthropic für Aufsehen mit der Software Claude Mythos Preview, die in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken fand.
Loading
Thurgau beschafft Microsoft-Lizenzen für 7 Millionen Franken
Der Auftrag geht freihändig an Softwareone. Das Amt für Informatik begründet die Preissteigerung im Vergleich zum letzten Zuschlag.
Zürichs Datenschützerin mahnt bei Cloud un KI zu mehr Vorsicht
Die Datenschutzbeauftragte des Kantons Zürich hat mehrere digitale Projekte von Behörden unter die Lupe genommen. Im Fokus standen unter anderem M365 sowie KI-gestützte Chatbots.
Microsoft bringt KI-Agenten Manieren bei
An der Entwicklerkonferenz "Build" wendet sich Microsoft an eine vermeintlich aussterbende Zielgruppe. Programmiererinnen und Programmierer bekommen neue KI-Tools an die Hand.