Ursprünglich hatte Samsung seinen Mitarbeitenden verboten, ChatGPT zu nutzen. Damit wollte der Konzern verhindern, dass sensible Unternehmensdaten in falsche Hände geraten. Anfang März hob Samsung das Verbot auf und es passierte genau das. Berichten zufolge haben Mitarbeitende durch die Nutzung von ChatGPT versehentlich Firmengeheimnisse preisgegeben.

Ein Mitarbeiter erzählt gegenüber koreanischen Medien, er habe den gesamten Quellcode eines Programms kopiert, ihn in ChatGPT eingegeben und sich nach einer Lösung erkundigt. Ein anderer lud Code hoch, um defekte Geräte zu identifizieren, ein weiterer wollte von der KI ein Protokoll einer Besprechung erstellen lassen.

Dies sind alles Aufgaben, für die sich die KI von OpenAI eigentlich bestens eignen. Das Problem ist, dass OpenAI Zugriff auf die Chatprotokolle hat, denn damit wird der Chatbot trainiert und verbessert. "Wenn Sie unsere Nicht-API-Verbraucherdienste ChatGPT oder Dall-E nutzen, können wir die von Ihnen bereitgestellten Daten zur Verbesserung unserer Modelle verwenden", heisst es bei OpenAI. Nicht-API-Nutzern steht ein Opt-out zur Verfügung. Bei API-Nutzern hat OpenAI am 1. März die Praxis vom Opt-out zum Opt-in gewechselt. Neu werden standardmässig keine Daten von Kunden übermittelt, um OpenAI-Modelle zu trainieren.

Sobald Informationen weitergegeben und auf Servern von Dritten gespeichert sind, können sie nicht mehr kontrolliert werden. Derjenige, der am anderen Ende sitzt, kann praktisch alles damit machen, was er will. Samsungs Geheimnisse könnten also für OpenAI zugänglich sein.

Nach Bekanntwerden der Vorfälle habe Samsung "Notfallmassnahmen" ergriffen, so die Berichte. Etwa habe der Konzern die Upload-Kapazität begrenzt. "Sollte sich ein ähnlicher Vorfall ereignen, obwohl Notfallmassnahmen zum Schutz der Informationen ergriffen wurden, kann der Zugang zu ChatGPT im Unternehmensnetzwerk blockiert werden", hiess es vom Samsung-Chef. Um ähnliche Vorfälle zu verhindern, erwäge das Unternehmen auch, einen eigenen KI-Dienst aufzubauen.

ChatGPT betont in seinem FAQ, dass OpenAI alle persönlich identifizierbaren Informationen aus den Daten, die es zur Verbesserung der Modellleistung verwenden will, entfernt. "Ausserdem verwenden wir nur eine kleine Stichprobe von Daten pro Kunde für unsere Bemühungen zur Verbesserung der Modellleistung."

Auch wenn die Samsung-Informationen nicht in falsche Hände gelangen, ist der Fall eine Erinnerung daran, vorsichtig mit der Technologie umzugehen. Angesichts des rasanten Aufstiegs der KI fehlt es in Unternehmen an Richtlinien, während die Neugierde der Anwender gross ist.