Vergangene Woche hat AWS seinen auf generativer KI basierenden Chatbot Amazon Q vorgestellt. Dabei betonte das Management stets, dass Q sicherer sei als Angebote von Konkurrenten und für den Unternehmenseinsatz geeignet sei.
Internen Dokumenten zufolge soll Q aber "stark halluzinieren und vertrauliche Daten preisgeben", schreibt das
Onlineportal 'Platformer', mit Verweis auf Dokumente, die ihm zugespielt wurden. So habe der Chatbot unter anderem die Standorte von AWS-Rechenzentren preisgegeben – Informationen, die AWS nicht öffentlich kommuniziert. Auch habe Q Informationen zu internen Rabattprogrammen oder unveröffentlichten Features geliefert, wie es weiter heisst.
AWS-CEO
Adam Selipsky hat Q vergangene Woche an der Konferenz Reinvent präsentiert. Auf der Bühne in Las Vegas erklärte er, dass Q die Rolle und Berechtigungen eines Users kennen würde. Über Q erhielten Nutzerinnen und Nutzer nur Informationen, zu denen sie auch ohne den Chatbot Zugang hätten.
Aus dem 'Platformer'-Bericht geht nicht hervor, in welchem Setting Q heikle Informationen geleakt haben soll. Aber die Situation soll bei den Mitarbeitenden für einige Aufregung sorgen und schwerwiegend genug sein, um Engineers Wochenend- und Nachtschichten schieben zu lassen. Einige der Halluzinationen könnten "potenziell kardiologische Vorfälle in der Rechtsabteilung" auslösen, zitiert die Plattform aus den Dokumenten.
AWS dementiert: "keine vertraulichen Informationen weitergegeben"
"Einige Mitarbeiter teilen ihr Feedback über interne Kanäle und Ticket-Systeme, was bei Amazon üblich ist", so das Unternehmen gegenüber 'Platformer'. Man sei dankbar über jegliches Feedback, um Q weiter zu optimieren. Aufgrund der Rückmeldungen sei aber kein Sicherheitsproblem identifiziert worden.
"Amazon Q hat keine vertraulichen Informationen weitergegeben", schiebt ein Unternehmenssprecher nach.
Q könne von Unternehmen zum Beispiel intern eingesetzt werden, um Business-Analysen schneller zu erstellen oder um Mitarbeitenden Informationen zur Verfügung zu stellen, erklärte AWS bei der Ankündigung. Auch kann das KI-System extern, etwa im Kundenservice oder in Call-Centern, verwendet werden. IDC-Analystin Roberta Bigliani sagte zu inside-it.ch am Rande der Reinvent in Las Vegas, dass Unternehmen Chatbots wie Q zunächst "intern einsetzen werden, wenn überhaupt". Bis die Tools breit im Kundenkontakt genutzt würden, verstreiche noch einige Zeit. Denn, wenn die Chatbots "seltsame oder falsche Antworten generieren, könnte dies der Reputation einer Firma schaden".
Amazon Q soll auch für IT-Admins, die AWS-Tools nutzen, hilfreich sein. Denn der Chatbot kann gemäss dem Unternehmen in natürlicher Sprache beispielsweise bei Verbindungsproblemen und der Fehlersuche in einem Netzwerk helfen oder dabei, die richtige EC2-Instance auszuwählen.
Laut den Informationen, die 'Platformer' vorliegen, könnte Amazon Q "veraltete Security-Informationen wiedergeben", was wiederum Kundenkonten gefährden könnte.
