Wie kann die Interaktion zwischen Mensch und Künstlicher Intelligenz dazu beitragen, kritische Systeme wie Elektrizität, Bahn und Flugsicherung sicherer zu machen? Dieser Frage stellt sich das Projekt AI4Realnet im Rahmen des europäischen Forschungsförderprogramm Horizon.

Mit an Bord sind neben mehreren internationalen Universitäten auch die School of Engineering der Zürcher Hochschule für angewandte Wissen­schaften (ZHAW), die Hochschule für Angewandte Psychologie der Fachhochschule Nordwestschweiz (FHNW) sowie die SBB und weitere Industrieunternehmen.

Kritische Infrastrukturen für Mobilität oder Elektrizität werden in der Regel von Menschen betrieben, doch zunehmend wird die menschliche Expertise durch Steuerungs- und Überwachungssoftware ergänzt. "Da wir es mit sensiblen Infrastrukturen zu tun haben, ist der Einsatz sehr hoch", sagt Ricardo Chavarriaga vom Centre for Artificial Intelligence der ZHAW.

"KI-Systeme müssen zuverlässig sein, damit die kritischen Anwendungen nicht gefährdet werden", ergänzt er weiter. Aus diesem Grund will ein Team der ZHAW eine leistungsfähige Methode, das sogenannte Reinforcement Learning, implementieren, die sich den stetig wechselnden Herausforderungen anpasst.

Das Hauptziel von AI4Realnet ist es, einen übergreifenden multidisziplinären Ansatz zu entwickeln und KI in industrierelevanten Anwendungsfällen zu testen und zu bewerten. Das Projektteam wird dafür neue KI-Algorithmen, bestehende Open-Source-Umgebungen, sozio-technisches Design von KI-basierten Entscheidungssystemen und Interaktion von Mensch und Maschinen miteinander kombinieren, um den Betrieb von Netzinfrastrukturen zu verbessern.

Für das Forschungsprojekt werden Systeme und Netze, die in Europa als lebenswichtig angesehen werden und deren Unterbrechung eine lähmende Wirkung auf die Gesellschaft hätte, miteinbezogen. Dazu zählen das Stromnetz sowie das Schienen- und Luftverkehrsmanagement. Zu den Projektpartnern gehören daher die SBB und die Deutsche Bahn sowie Flugsicherungsdienste in verschiedenen Ländern.

Die gegenseitige Ergänzung von Mensch und KI birgt viele Chancen, heisst es in einer gemeinsamen Mitteilung der beiden Schweizer Hochschulen. Beispiels­weise könne KI menschliche Schwächen kompensieren, und umgekehrt. Damit dieser Ansatz funktioniert, sollten technische Innovationen auch vom Menschen her gedacht werden.

"Gerade bei interdisziplinären Projekten ist die fachliche Perspektive der angewandten Psychologie von Anfang an relevant, um Lösungen zu entwickeln, die für den Menschen nachhaltig praktikabel und umsetzbar sind", so Toni Wäfler, Professor für Arbeits- und Organisationspsychologie und Projektleiter auf Seiten der FHNW.

Für Ricardo Chavarriaga besteht die Vision des Projekts AI4Realnet darin, die Koexistenz von menschlicher Steuerung und KI-basierter Automatisierung auf verschiedenen Ebenen zu erforschen – von der vollständigen menschlichen Steuerung mit KI-Unterstützung bis hin zur mitlernenden und vertrauenswürdigen KI-basierten Steuerung.

"Wir wollen Systeme entwickeln, die sich mit der Zeit anpassen und verbessern können. Dabei ist der Einbezug der psychologischen Perspektive essenziell, um zu verstehen, wie aus dem Zusammenwirken von Mensch, Technik und Organisation ein bleibender Mehrwert geschaffen werden kann", so der Forscher.