In The Code: Bots könnten Intelligenz ersetzen, aber nicht die Ethik

Gastautor Steve Henzen von T-Systems diskutiert Use Cases für Bots, Tools und eine neue "digitale Verantwortung".
 
Alles, was sich sinnvollerweise digitalisieren und automatisieren lässt, wird digitalisiert und automatisiert werden. Um die Reaktionsgeschwindigkeit in Marketing, Verkauf und Service hochzuhalten, setzen immer mehr Branchen in der digitalen Interaktion mit ihren Kunden und Partnern auf Bots. Welche Anwendungsszenarien gibt es, welche Technologien und wo liegen die Chancen und Risiken?
 
Digitalisierung und Automatisierung ziehen in der Regel neue Prozesse nach sich, die für den Kunden komfortabler und für den Anbieter kosteneffizienter sind. Dabei rückt mehr und mehr die gesamte Customer Journey ins Blickfeld. Der Anspruch der Kunden im digitalen Zeitalter an die User Experience steigt. Sie verlangen individuelle Interaktion und kurze Reaktionszeiten. Die Unternehmen hingegen sind daran interessiert, Aufwand und Kosten für die 1:1-Kundenbetreuung möglichst überschaubar zu halten. Mit diesen beiden gegenläufigen Bedürfnissen lässt sich das ideale Einsatzszenario für Bots umschreiben.
 
Bots lassen sich in sämtliche Phasen des Kundendialogs einbinden: von der Phase der Aufmerksamkeit über Entscheid und Kauf bis hin zu After Sales Services und sogar zur langfristigen Kundenbindung. Das Spektrum ist breit: proaktive Empfehlungen relevanter Informationen, Produktvergleiche, dialogbasierter Kundenkontakt, Bestell- und Kaufoptionen direkt aus einem Messenger oder Chat heraus, Angebote von passenden Serviceinhalten oder Vorqualifizierung von Serviceanliegen im First Level Support und Upgrade-Optionen sind nur einige Beispiele.
 
Ein Bot lässt sich ganz generell als eine Oberfläche verstehen, die Internet basiert zu automatisierter Interaktion dient. Darunter liegen verschiedene Enabling-Technologien, die neben dem eigentlichen Interface zwischen den Interaktionspartnern ausschlaggebend für die User Experience sind. Hier kommen Natural-Language-Processing-(NLP)-Einheiten, künstliche Intelligenz (KI) oder Machine-Learning-(ML)-Kapazitäten zum Tragen. Eine Ebene tiefer ist die Operationslogik angesiedelt, nach der die Datenströme verarbeitet werden. Auf der untersten Ebene können beliebige Datenquellen entsprechend des Use Cases angeschlossen werden.
 
Bots sind mehr als ein Hype
Das eigentlich nicht neue Thema Bots nahm Fahrt auf, seit sich Facebook für Bots öffnete. Für einige Messaging-Plattformen gibt es mittlerweile eigene Bot Stores, in denen die gewünschte Funktion quasi per Drag-and-Drop in das eigene Ökosystem integriert werden kann. Darüber hinaus gibt es eine schnell wachsende Anzahl an spezialisierten Anbietern, die branchen- oder anwendungsfallspezifische Lösungen entwickeln.
 
Vorreiter beim Einsatz von Bots sind vor allem e-Commerce-Plattformen. Die Finanzindustrie und andere Dienstleister ziehen nach.
 
Chatbots sind Meister im Ausführen von standardisierten Abläufen auf Basis von definierten Triggern. In der Awareness-Phase geht es darum, über ein proaktives Angebot von relevanten Informationen, wie z.B. einem passenden Werbebanner, Aufmerksamkeit bei der definierten Zielgruppe zu erreichen.
 
Die anschliessende Consideration-Phase ist von unterstützenden Massnahmen zur Informationsbeschaffung gekennzeichnet. Beispielsweise kann eine Kaufentscheidung über angebotene Produktvergleiche oder einen dialogbasierten Informationsaustausch zielführend begleitet und vorbereitet werden.
 
In der eigentlichen Phase des Kaufens gilt es, den Kunden möglichst reibungslos durch den Warenkorb-Prozess bis zum Kaufabschluss zu begleiten.
 
Von Unternehmen immer mehr als wettbewerbsdifferenzierend erkannt, bietet die Service-Phase die Möglichkeit, den Kunden rund um das gekaufte Produkt bei Rückfragen zur Nutzung zu begleiten und ihm eine umfassende Service-Erfahrung zu liefern.
 
Den Abschluss der Customer Journey bildet die Phase der Kundenbindung. Hier werden Bestandskunden durch passende Angebote automatisiert an das Unternehmen gebunden oder wechselwillige Kunden über individuelle Angebote zum Verbleib angeregt.
 
Vielfältige Landschaft von Tools
Eine grosse Auswahl von Tools wird als Software-as-a-Service-Dienst angeboten; die Speicherung der Daten findet dabei cloudbasiert statt. Das Gros dieser Lösungen bietet eine Backend- bzw. eine Bot-Plattform, die das Erstellen von Chatbots (Conversational User Interface) ohne notwendige IT-Kenntnisse ermöglicht.
 
Um eine Absicht (Intent) zu erkennen, wird das System mit Daten trainiert, dabei folgen diese, vereinfacht
Grafik: T-Systems Schweiz
dargestellt, einem bestimmten Muster: Zuerst wird der Intent als Input definiert. Dieser wird analysiert und mit dem Kontext in Verbindung gesetzt, um darauf basierend eine definierte Action zu triggern. In ein Praxisbeispiel übertragen, lässt sich folgender Fall beschreiben: Ein Nutzer fragt über den Facebook Messenger beim Kundendienst eines Versandhändlers den aktuellen Lieferstatus seiner Bestellung nach. Der Chatbot erkennt "Lieferstatus" als Intent und kann anhand erweiterter Informationen wie zum Beispiel der Login-Daten des Kunden, die Auftragsnummer herausfinden, um so den aktuellen Lieferstatus als Action auszugeben.
 
Chatbot-Technologien lassen sich nach No-Programming-Plattformen, dialogorientierten Bots und generalistischen Lösungen der Tech-Giganten unterscheiden.
 
Die erstgenannte Kategorie der No-Programming-Plattformen bietet sich vor allem für kleine, schnelle Projekte an, da man hier ohne grosse Programmierkenntnisse einen einfachen Chatbot zusammenklicken kann. Das geht allerdings zulasten der möglichen Anwendungsfälle und der Skalierbarkeit, da alle Interaktionen händisch erstellt werden müssen und somit in der Regel nicht selbstlernend sind.
 
Mit den dialogorientierten Chatbots lassen sich vielfältige Dialogszenarien realisieren, die häufig mithilfe der Artificial Intelligence Markup Language (AIML) erstellt werden. Einer grossen Flexibilität in der Dialoggestaltung steht meist eine schlechte Skalierbarkeit und eine fehlende Task-Orientierung gegenüber.
 
Mit den Frameworks der grossen Tech-Giganten, die quasi einen gewissen Industriestandard darstellen, lassen sich komplexe Anwendungsfälle realisieren. Voraussetzung dafür ist, dass notwendiges Know-how im Vorfeld vorhanden ist sowie die Bereitschaft, einen grösseren Aufwand in die Umsetzung zu investieren. Zum Beispiel bietet Google mit API.AI ein mächtiges Tool zur Modellierung komplexer Abläufe mit der Zuhilfenahme von Intents und Kontexten an. Facebook hat mit Wit.ai einen sehr visuellen Ansatz im Köcher, der intuitiv in einer grafischen Oberfläche zu durchlaufen ist und beliebig komplex gestaltet werden kann.
 
Auch Microsoft, IBM und Amazon haben entsprechende Lösungen im Portfolio, die allerdings deutlich komplexer in der Erstellung sind.
 
Kritische Würdigung
Die Bedeutung von Bots und KI ist immens. Indiz dafür ist beispielsweise, dass sämtliche Tech-Giganten sich in einer «Partnership on AI» zusammengefunden haben und gemeinsam an einer offenen Plattform arbeiten, um ein übergreifendes Verständnis zu schaffen und aktiv den Austausch zu fördern. Wohin der Trend geht, ist noch ungewiss.
 
Wird der Chatbot zum allwissenden Kundenberater, der alle relevanten Touchpoints in einem Ökosystem zusammenführt und aus der wachsenden Datenbasis heraus Kundenwünsche antizipieren und bedienen kann? Oder beschränkt sich das System darauf, kontextbezogen passende Inhalte zu präferierten Such- und Anfragemustern vorzuschlagen?
 
Ein weiteres Szenario sieht den Chatbot als Concierge, der auf Basis von Kalender- und Standortdaten alle organisatorischen Tätigkeiten rund um den Arbeitsalltag übernimmt. Je fortgeschrittener ein Bot ist, desto mehr bezieht er Kontextinformationen ein und antizipiert den nächsten Schritt auf Grundlage der – vermeintlichen – Präferenzen.
 
Machine Learning hilft, das Vokabular und die Interaktionsmöglichkeiten von Bots zu optimieren, was der wesentliche Treiber für die Pflege von Beziehungen und die Beantwortung komplexer Anfragen ist. Doch die Kehrseite ist, dass Bots, die anhand der Interaktion ständig hinzulernen, keine ethischen oder moralischen Grenzen kennen.
 
Man denke an die Übernahme von menschlichen Vorurteilen durch die implementierte Künstliche Intelligenz oder an die Frage, ob ein Bot als solcher erkennbar sein sollte. Auch das Black-Box-Problem (man gibt Daten ein und erhält ein Ergebnis, weiss aber nicht, wie die KI zu diesem kam) erfordert eine neue Art der "digitalen Verantwortung".
 
Vorschlag eines Ethik-Kodex'
Daher gilt es, bindende Leitlinien zu erarbeiten, von denen hier einige wesentliche aus dem Ethikkodex skizziert werden, den sich die Deutsche Telekom kürzlich auferlegt hat. Es wäre zu wünschen, dass gesellschaftsübergreifend ein gemeinsames Verständnis entwickelt wird, wie mit KI verantwortungsvoll umgegangen werden sollte:
 
1) Verantwortung übernehmen
Es muss klar definiert sein, wer für welches KI-System Verantwortung trägt.
2) Sorgfaltspflicht
Künstliche Intelligenz erfordert Achtsamkeit und Sorgfalt im Umgang.
3) Rechtssicherheit
KI-Systeme und ihre Verwendung haben dem für die Menschen geltenden Recht und Gesetz zu folgen.
4) Der Kunden steht im Mittelpunkt
KI soll das Leben der Kunden vereinfachen und bereichern und nicht einschränken.
5) Transparenz
Es braucht Transparenz, wenn ein Kunde mit einem KI-System kommuniziert, und Transparenz über die Nutzung seiner Daten.
6) Sicherheit
Kundendaten sind vor unautorisiertem, externen Zugriff zu schützen (Datensicherheit und Datenschutz).
7) Aus Erfahrung lernen
Gründliche Analysen und Evaluierungen sind die Basis für die Weiterentwicklung und stete Verbesserung der KI-Systeme.
8) Kontrolle behalten
Es braucht die ständige Bereitschaft, in die KI-Systeme einzugreifen, um Schäden zu vermeiden bzw. zu reduzieren.
9) Ein Kooperationsmodell leben
Obwohl der Mensch an erster Stelle steht, können Vorteile aus einer Interaktion von Mensch und Maschine gezogen werden.
10) Teilen und erklären
Es braucht Wissensvermittlung und die Vermittlung von entsprechenden Kompetenzen im Umgang mit KI. (Steven Henzen)
 
Über den Autor:
Steven Henzen ist Innovation Architect bei T-Systems in der Schweiz, Informatiker mit Leib und Seele, Absolvent der IBZ Schulen für Technik Zürich und der Fachhochschule für Technik Zürich, Microservices- und Cloud-Spezialist sowie Autor von Fachartikeln zu Themen rund um Digitalisierung, IT-Architekturen und -Services sowie Cloud und Internet of Things. T-Systems Schweiz ist ein ICT-Dienstleister mit Hauptsitz in Zollikofen und ca. 600 Mitarbeitenden.