AWS-Chatbot Q plaudert angeblich Interna aus

4. Dezember 2023 um 15:06
image
Foto: Krakenimages / Unsplash

Der erst vor wenigen Tagen präsentierte Chatbot Amazon Q soll stark halluzinieren und vertrauliche Infos ausgeben, zeigen Dokumente. Der Konzern widerspricht.

Vergangene Woche hat AWS seinen auf generativer KI basierenden Chatbot Amazon Q vorgestellt. Dabei betonte das Management stets, dass Q sicherer sei als Angebote von Konkurrenten und für den Unternehmenseinsatz geeignet sei.
Internen Dokumenten zufolge soll Q aber "stark halluzinieren und vertrauliche Daten preisgeben", schreibt das Onlineportal 'Platformer', mit Verweis auf Dokumente, die ihm zugespielt wurden. So habe der Chatbot unter anderem die Standorte von AWS-Rechenzentren preisgegeben – Informationen, die AWS nicht öffentlich kommuniziert. Auch habe Q Informationen zu internen Rabattprogrammen oder unveröffentlichten Features geliefert, wie es weiter heisst.
AWS-CEO Adam Selipsky hat Q vergangene Woche an der Konferenz Reinvent präsentiert. Auf der Bühne in Las Vegas erklärte er, dass Q die Rolle und Berechtigungen eines Users kennen würde. Über Q erhielten Nutzerinnen und Nutzer nur Informationen, zu denen sie auch ohne den Chatbot Zugang hätten.
Aus dem 'Platformer'-Bericht geht nicht hervor, in welchem Setting Q heikle Informationen geleakt haben soll. Aber die Situation soll bei den Mitarbeitenden für einige Aufregung sorgen und schwerwiegend genug sein, um Engineers Wochenend- und Nachtschichten schieben zu lassen. Einige der Halluzinationen könnten "potenziell kardiologische Vorfälle in der Rechtsabteilung" auslösen, zitiert die Plattform aus den Dokumenten.

AWS dementiert: "keine vertraulichen Informationen weitergegeben"

"Einige Mitarbeiter teilen ihr Feedback über interne Kanäle und Ticket-Systeme, was bei Amazon üblich ist", so das Unternehmen gegenüber 'Platformer'. Man sei dankbar über jegliches Feedback, um Q weiter zu optimieren. Aufgrund der Rückmeldungen sei aber kein Sicherheitsproblem identifiziert worden.
"Amazon Q hat keine vertraulichen Informationen weitergegeben", schiebt ein Unternehmenssprecher nach.
Q könne von Unternehmen zum Beispiel intern eingesetzt werden, um Business-Analysen schneller zu erstellen oder um Mitarbeitenden Informationen zur Verfügung zu stellen, erklärte AWS bei der Ankündigung. Auch kann das KI-System extern, etwa im Kundenservice oder in Call-Centern, verwendet werden. IDC-Analystin Roberta Bigliani sagte zu inside-it.ch am Rande der Reinvent in Las Vegas, dass Unternehmen Chatbots wie Q zunächst "intern einsetzen werden, wenn überhaupt". Bis die Tools breit im Kundenkontakt genutzt würden, verstreiche noch einige Zeit. Denn, wenn die Chatbots "seltsame oder falsche Antworten generieren, könnte dies der Reputation einer Firma schaden".
Amazon Q soll auch für IT-Admins, die AWS-Tools nutzen, hilfreich sein. Denn der Chatbot kann gemäss dem Unternehmen in natürlicher Sprache beispielsweise bei Verbindungsproblemen und der Fehlersuche in einem Netzwerk helfen oder dabei, die richtige EC2-Instance auszuwählen.
Laut den Informationen, die 'Platformer' vorliegen, könnte Amazon Q "veraltete Security-Informationen wiedergeben", was wiederum Kundenkonten gefährden könnte.

Loading

Mehr zum Thema

image

Breach von Easypark könnte 21 Millionen Datensätze umfassen

Nach dem Angriff auf den auch in der Schweiz aktiven Park-App-Anbieter verkauft ein Hacker ein grosses Datenpaket. Es soll auch Kreditkarten- und IBAN-Details enthalten.

publiziert am 29.2.2024
image

Epic-Einführung: Insel-Gruppe stellt den Schalter um

In der Nacht auf Samstag werden mit dem neuen Klinikinformationssystem 50 verschiedene Lösungen ersetzt. Ein Supportteam steht rund um die Uhr bereit.

publiziert am 28.2.2024
image

Noch mehr Kritik für inter­kantonale Polizei­daten­bank

Eine neue Vereinbarung soll den Austausch von polizeilichen Daten unter den Kantonen regeln. Der Gesetzesentwurf dazu ist kantonalen Datenschützern zu unpräzise und eine "Art Blanko­ermächtigung" für die Polizei.

publiziert am 28.2.2024 1
image

Tumblr und Wordpress wollen Inhalte für KI-Training verkaufen

Die beiden Content-Management-Plattformen wollen die Inhalte ihrer Nutzenden zu Geld machen. Wer das nicht will, muss die Funktion deaktivieren.

publiziert am 28.2.2024