Oliver Bendel antwortet im März auf eine Interviewanfrage aus San Francisco. Der Informationsethiker ist auf dem Weg an ein Symposium, wo er über Umarmungsroboter und Barroboter referieren wird. Vor einigen Jahren hat er an derselben Veranstaltung der renommierten Association for the Advancement of Artificial Intelligence (AAAI) annotierte Entscheidungsbäume für moralische Maschinen vorgestellt. Wenn sich Bendel nicht gerade auf einer seiner vielen wissenschaftlichen Reisen befindet, forscht er in beschaulicher Umgebung: Seit 2009 bekleidet der 55-Jährige eine Professur für Informationsethik, Maschinenethik und Soziale Robotik an der Fachhochschule Nordwestschweiz (FHNW) in Brugg-Windisch.

In seiner Arbeit geht es um das Zusammenleben von sozialen Robotern und Menschen, um die Potenziale künstlicher Intelligenz, aber auch um ethische Folgefragen. Bendel ist eine Autorität auf seinem Gebiet. Er hat mehrere Standardwerke verfasst, spricht an internationalen Fachtagungen und trat mehrfach vor dem Deutschen Bundestag als Sachverständiger auf. An der Ethik-Konferenz Shift, die kürzlich in Zürich über die Bühne ging, stellte ihm die Programmleitung eine knifflige Frage: "Sind Roboter und KI-Systeme die besseren Menschen?" Das beantwortete der Philosoph, Germanist und Wirtschaftsinformatiker in seinem Referat ausgesprochen deutlich: "Wir sind und bleiben besser als die Roboter".

Bendel ist aber überzeugt, dass generative Sprachmodelle wie GPT-3 und GPT-4 nicht nur Texte und das Internet verändern werden, sondern auch die physische Welt. Nicht etwa, weil künstliche Intelligenz irgendwann die Weltherrschaft an sich reisst, sondern weil sie uns die Maschine noch stärker untertan machen kann. Oder in den weniger biblisch klingenden Worten des Freidenkers Bendel: "Die Kameras und Sensoren der Roboter erzeugen Daten, die in die Sprachmodelle integriert werden. Dies geschieht auch in neuen Umgebungen sehr schnell. Die Roboter eignen sich die physische Welt an. Und wir geben ihnen in ganz normaler Sprache beliebige Befehle."

Wir haben mit dem Maschinenethiker nach seinem Referat an der Shift gesprochen.

Künstliche Intelligenz steht für einen Bereich der Informatik, der sich mit unserem Denken, Entscheiden und Problemlösen beschäftigt, um dieses durch computergestützte Verfahren nachzubilden. Es bleibt aber eine tiefe Kluft zwischen uns und den Maschinen bestehen: Künstliche Intelligenz kann unsere Intelligenz lediglich simulieren.

Intelligenz ist ein Denk-, Entscheidungs- und Problemlösungsverhalten, das auch hoch entwickelten Tieren wie Affen, Katzen und Hunden zukommt. Es beruht auf der Analyse und unterscheidet sich von Reflexen, die durch Reize ausgelöst werden. Bei uns Menschen ist Intelligenz ein vernunftgeleitetes Wahrnehmen, das adäquate Reaktionen auf Probleme ermöglicht. Sie dient aber bei aller gesellschaftlicher Überformung zwei Zwecken: Überleben und Fortpflanzen.

Ja, denn es ist eine zum Begriff gewordene Metapher, die uns intuitiv verstehen lässt, um was es geht: die Simulierung von Intelligenz. An KI-Fachkonferenzen wird daran kaum Kritik erhoben. Diese kommt meist von aussen, von Psychologen und Philosophen, die ihre eigenen Begriffe auf unsere technische Disziplin übertragen. Kritiker sollten sich aber zuerst gründlich mit einem Fach beschäftigen, bevor sie es beurteilen.

Jeder Begriff hat in jeder Disziplin eine spezifische Bedeutung. "Autonomie" und "Intelligenz" sind in der Psychologie oder der Philosophie etwas anderes als in der Informatik. Zudem lässt sich über KI kaum allgemein urteilen. Vielmehr muss man über konkrete Systeme sprechen. Ich gehe darum in meiner Forschung von konkreten Maschinen aus und untersuche diese.

Happy Hedgehog ist ein Mähroboter, der mithilfe einer Wärmebildkamera und Machine Learning Igel erkennt. Bei Gefahr für diese stellt er seine Arbeit ein, um sie nicht zu verletzen oder zu töten. Er folgt der einfachen moralischen Regel, dass man Lebewesen nicht ohne Grund verletzen soll. Der Liebot handelt hingegen unmoralisch, er lügt systematisch. Man sieht an ihm, dass es aus Forschungszwecken wertvoll sein kann, hin und wieder ein System zu bauen, das weder vertrauenswürdig noch transparent ist. Man sollte Forschung und Entwicklung frei halten, aber die Anwendungen dort begrenzen, wo es Sinn ergibt.

ChatGPT wurden moralische Regeln einprogrammiert, etwa keine rassistischen Reden zu verfassen oder keine sexualisierten Szenen zu beschreiben. Aber warum hat man nicht festgelegt, dass das System nicht immer ellenlange Auskünfte erteilt? Oder dass es keine Quellen erfindet oder lügt? Es behauptet, dass ich Mitglied der Schweizer Informatik Gesellschaft (SI) sei. Das ist zwar statistisch sehr wahrscheinlich, aber es ist nicht wahr. Die Webadresse, die von ChatGPT angegeben wird, führt ins Leere.

Ich denke, da sind Sie auf der richtigen Spur. Diesen Fehler müssen die Techfirmen rasch korrigieren. Dass das gar nicht schwierig ist, hat Aleph Alpha bewiesen, dessen künstliche Intelligenz für seinen geschlossenen Kundenkreis vor allem zuverlässig sein soll. Wenn Sprachmodelle breit angewandt oder in heiklen Bereichen eingesetzt werden, müssen sie verlässlich sein – und sie sollten korrekte Quellen angeben.

Das war reines Marketing. Das sieht man schon daran, dass Elon Musk wenige Wochen nach dem offenen Brief die Gründung seiner KI-Firma X.AI verkündet hat. Die Industrie lebt aber auch von solchen Mythen, die zugleich unglaubliches Potenzial und riesige Gefahren in Aussicht stellen.

Ich fürchte, dass unsere informationelle Autonomie eingeschränkt wird und wir von Robotern mit ihren Kameras und Sensoren auf Schritt und Tritt überwacht werden. Schon heute haben wir sie in unserem Haushalt. Wir werden sie, dank der Sprachmodelle, künftig per Spracheingabe steuern können. Und sie werden unsere Lebensumgebung bereits im Prinzip kennen, da sie über eine riesige Vergleichsbasis verfügen. Das ist äusserst praktisch und birgt bisher ungekannte Möglichkeiten. Aber es gibt auch weitere Gefahren: Wenn ich im Spital bei einem Roboter ein Glas Wasser bestelle, er mir aber destilliertes Wasser bringt, ist das potenziell tödlich.

Dilemmata lassen sich kaum auflösen. Ich habe schon 2012, als wir eine Formel für autonome Autos entwickelt haben, darauf hingewiesen, dass diese weder quantifizieren noch qualifizieren sollten. Sie sollten also keine Unfallopfer durchzählen oder sie nach Herkunft, Alter oder Geschlecht beurteilen. Stattdessen müssen wir ihnen – wenn wir überhaupt autonome Autos in unseren Städten wollen – eigene Spuren und eigene Tunnels geben, wir müssen separate Ampelschaltungen einführen und die Geschwindigkeit anpassen.

Wir bauen in enger Zusammenarbeit mit Experten der Künstlichen Intelligenz und der Robotik moralische Maschinen. Das sind meist autonome Systeme, denen man Regeln implementiert. Dabei sind uns individuelle Vorstellungen und Haltungen wichtig. Ich habe beispielsweise ein Moralmenü entwickelt, mit dem ein Nutzer seine sozialen und moralischen Überzeugungen auf die Maschine übertragen kann. Die Maschinenethik befindet sich zwischen Philosophie und Informatik – für mich ist sie aber näher an der Informatik.

Ja, auch hier haben wir es mit einer Simulation zu tun. Unser Mähroboter Happy Hedgehog, der Igel verschont, versteht den ethischen Kontext nicht, er setzt nur unsere Vorgaben um. Roboter und KI-Systeme werden nie moralisch verantwortlich sein, wenngleich sie in Bagatellfällen juristisch haftbar sein könnten. Bei einer Streifkollision könnte ein autonomes Auto als Verursacher einem anderen einen bestimmten Betrag überweisen. Das wird unter Juristen diskutiert, natürlich etwas abstrakter, unter dem Begriff der elektronischen Person.

Ich war dabei, letztes Jahr in Florenz bei der International Conference on Social Robotics, und es war etwas unheimlich. Ich denke, sie haben sich einfach täuschen lassen und sollten sich besser informieren. Maschinen bleiben Maschinen. Ich finde es auch furchtbar, wenn man ihre Fähigkeiten mit denen von Tieren vermengt: Hunde, Katzen und Igel können Angst und Schmerz, aber auch Lust an der Welt empfinden. Maschinen können das nicht.