Die KI-Firma Anthropic wirft dem chinesischen Alibaba-Konzern einen grossangelegten Versuch vor, widerrechtlich Fähigkeiten seiner KI-Software abzugreifen. Das Unternehmen fordert deswegen vom US-Kongress Massnahmen, die solche Attacken verhindern sollen, wie aus einem von der 'Financial Times' (Paywall) veröffentlichten Brief an amerikanische Senatoren hervorgeht. Alibaba äusserte sich zunächst nicht zu den Vorwürfen.

Dem Brief zufolge interagierten mit Alibaba verbandelte Angreifer über nahezu 25'000 betrügerische Accounts von Ende April bis Anfang Juni fast 29 Millionen Mal mit Anthropics KI-Software Claude. Dabei hätten sie mehr über zentrale Aspekte wie etwa den Aufbau der Software und deren Logik beim Ausführen von Aufgaben erfahren wollen.

Die Angreifer hätten eine unter dem Begriff "Destillation" bekannte Methode genutzt, bei der Entwickler neuer Software sie mit Künstlicher Intelligenz von einem bereits existierenden Modell anlernen lassen. Solche Zugriffe sind gemeinhin in Nutzungsbedingungen untersagt.

In dem Brief forderte Anthropic vom Kongress unter anderem ein härteres Vorgehen gegen chinesische Unternehmen, die zur "Destillation" greifen. Auch sollten amerikanische KI-Firmen die Freiheit bekommen, einander vor solchen Attacken zu warnen. Zudem ruft Anthropic dazu auf, den Zugang chinesischer Player zu Technik wie KI-Chips weiter einzuschränken.

Damit bekräftigt die KI-Firma den Konfrontationskurs vom Chip-Schwergewicht Nvidia. Das Unternehmen wirbt bei der US-Regierung dafür, auch die Ausfuhr leistungsstärkerer KI-Systeme nach China zu erlauben.

Anthropic steckt dabei selbst in einem Konflikt mit der US-Regierung. Diese zwang die Firma jüngst, deren KI-Software vorläufig vom Markt zu nehmen. Zur Begründung wurde dabei auf angebliche Schwachstellen verwiesen, über die Einschränkungen des KI-Programms mit dem Namen "Fable 5" ausgehebelt werden könnten.

Bei dem Programm ist unter anderem die Fähigkeit zur Suche nach Sicherheitslücken in anderer Software blockiert. Die Sorge ist, dass KI für Cyberattacken verwendet werden könnte. Anthropic konterte, die Probleme seien nicht schwerwiegend. Verhandlungen mit der US-Regierung zu der Sperre laufen noch.