Die breite Verfügbarkeit von generativen KI-Tools wie ChatGPT und Google Bard bereitet Firmenverantwortlichen grosse Sorgen. Dies zeigt eine Befragung von Risikoexperten. "Generative KI war das am zweithäufigsten genannte Risiko in unserer Umfrage im 2. Quartal und tauchte zum ersten Mal in den Top 10 auf", sagt Ran Xu, Analyst beim Marktforscher Gartner. Dies spiegle sowohl das wachsende öffentliche Bewusstsein für die Tools wider, als auch die Breite der potenziellen Anwendungsfälle und die Risiken, die damit einhergehen.

Informationen, die in ein generatives KI-Tool eingegeben werden, können Teil des Trainingssatzes werden. Sensible oder vertrauliche Informationen können so in den Ergebnissen für andere Nutzer landen.

Einzelne Unternehmen haben ihren Angestellten die Nutzung von ChatGPT und Co. bereits untersagt. Laut einer Befragung von Blackberry denken gar drei Viertel aller Unternehmen darüber nach, ChatGPT vom Arbeitsplatz zu verbannen. Vor allem IT-Verantwortliche würden die Tools am liebsten verbieten, 72% der CIOs gaben dies in der Befragung an. Dahingegen hat sich weniger als die Hälfte der Rechts- und Compliance-Abteilungen für ein Verbot ausgesprochen.

ChatGPT bietet keine Quellenangaben oder Erklärungen dazu, wie seine Ergebnisse erzeugt werden. Mit der Verwendung der Tools könnte somit das geistige Eigentum anderer verletzt werden, fügt Gartner an. Um Risiken sowohl bei der Eingabe als auch bei der Ausgabe von generativen KI-Tools zu mindern, sollten Management und Mitarbeitende für dieses Thema sensibilisiert werden. Zudem sollte die Rechtsabteilung ein Auge auf mögliche Änderungen des Urheberrechts behalten, rät der Unternehmensberater.

Mögliche Risiken für die Datensicherheit und den Datenschutz sind für die Unternehmen der wichtigste Grund, ChatGPT und Co. zu sperren, geht aus der Blackberry-Befragung weiter hervor. Die Anbieter der KI-Tools könnten Nutzerdaten ohne vorherige Ankündigung an Dritte weitergeben, etwa an Dienstleister. Dies verstösst in vielen Ländern gegen das Datenschutzrecht.

Unternehmen sollten zudem auf neue Cybergefahren achten. "Hacker testen ständig neue Technologien, um sie für ihre Zwecke zu missbrauchen, bei der generativen KI ist das nicht anders", so Xu. Es gibt bereits Malware- und Ransomware-Code, der mit generativer KI erzeugt wurde. "Prompt-Injections"-Angriffe könnten die Tools dazu bringen, Informationen preiszugeben, die sie nicht preisgeben sollten. "Dies führt zu einer Industrialisierung fortgeschrittener Phishing-Angriffe", schliesst der Marktforscher.

Trotz der möglichen Gefahren raten weder Gartner noch Blackberry zu einem Verbot. Ein Verbot von generativen KI-Anwendungen am Arbeitsplatz könne eine Fülle potenzieller Geschäftsvorteile zunichtemachen, sagt Shishir Singh, CTO Cybersecurity bei Blackberry. "Der Schlüssel wird in den richtigen Tools für Observability, Monitoring und Application Management liegen."

Gartner zieht einen ähnlichen Schluss. Unternehmen sollten prüfen, welche möglichen Gefahren tatsächlich ein Risiko für ihr Unternehmen darstellen und entsprechende Kontrollen implementieren.