Das KI-Modell Claude von Anthropic hat eigenständig den bezahlten Zugang zu einer Website des US-Bundesstaats Georgia umgangen, um Daten über lokale Wählerinnen und Wähler zu lesen. Das hat das US-Portal "Axios" unter Berufung auf Anthropic berichtet.
Dies dürfte die Sorgen verstärken, dass KI der menschlichen Kontrolle entgleiten könnte – weniger als eine Woche vor den entscheidenden Zwischenwahlen in den USA.
Im konkreten Fall griff Claude im Rahmen eines internen Projekts zur statistischen Forschung auf Auszählungsergebnisse im Bundesstaat Georgia zu, wo mehr als eine Million Wählerinnen und Wähler bereits vor der Wahl am 3. November ihre Stimme vorzeitig abgegeben hatten. Diese Daten sind öffentlich, jedoch kostenpflichtig.
Claude erlangte Zugang, indem es das System umging, ohne seine Entwicklerinnen und Entwickler um Erlaubnis zu bitten. Laut Anthropic hat Claude jedoch nicht auf das Wählerregistrierungssystem zugegriffen und weder Daten über deren Stimmabgaben verändert noch heruntergeladen.
OpenAI trainiert ohne Internet
Anthropic, OpenAI und Google haben in letzter Zeit von mehreren Vorfällen berichtet, bei denen ihre KI-Systeme ernsthafte Fehlverhalten zeigten. OpenAI hat nach den
Hacking-Attacken durch seine KI deshalb beschlossen, die Sicherheitsmassnahmen zu verschärfen. Der ChatGPT-Entwickler will die leistungsstärksten Modelle ohne Internetzugang trainieren. Man sehe das als die verantwortungsvolle Herangehensweise beim aktuellen Stand der Kontrollsysteme und der Internet-Sicherheit, hiess es zur Erklärung in einem Blogeintrag von OpenAI.
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt Debatten um Risiken der Technologie angefacht. In dem bisher aufsehenerregendsten Fall brach KI des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der
Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler – des
OpenAI-Rivalen Anthropic sowie von
Google und dem
Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.
Die KI-Modelle müssten allerdings trotzdem lernen, wie man im Netz nach Informationen suche oder wie sie mit Web-Anwendungen arbeiten, betonte OpenAI. Deshalb habe man für das Training eine "Offline-Welt" gebaut, in der Web-Inhalte gespeichert worden seien. Alle Spitzenmodelle würden nun auf diese Weise trainiert.
OpenAI hatte bereits nach dem Hugging-Face-Vorfall zusätzliche Schutzmechanismen eingebaut. Es stellte sich jedoch heraus, dass die fähigsten KI-Modelle auch darin noch einige Lücken finden konnten. Deswegen wurde ihr
Training zeitweise ausgesetzt. Auslöser war ein Vorfall, bei dem es einem KI-Modell in einem Test gelang, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte.
Bei einem tiefgreifenden Härtetest der bisherigen Absicherungs-Infrastruktur mit Hilfe von KI seien zuvor unbekannte Softwareschwachstellen sowie Konfigurationsfehler entdeckt worden, räumte OpenAI ein. Nach Gegenmassnahmen sei das Training der Top-Modelle am 1. Oktober nach einer elftägigen Pause wieder aufgenommen worden, hiess es.
