"Trotz der bedeutenden Fortschritte, die KI und maschinelles Lernen gemacht haben, sind diese Technologien anfällig für Angriffe, die zu spektakulären Fehlern mit schlimmen Folgen führen können", sagt Apostol Vassilev, Informatiker am amerikanischen National Institute of Standards and Technology (Nist). Vassilev hat zusammen mit weiteren Autorinnen und Autoren im Rahmen der Nist-Bemühungen für vertrauensvolle KI-Systeme ein Papier zu diesem Thema verfasst.

KI-Systeme haben die moderne Gesellschaft durchdrungen und ihre Aufgaben reichen von der Unterstützung von Ärzten bei der Diagnose von Krankheiten über das Fahren von Fahrzeugen hin zur Interaktion mit Kunden. Aber noch gebe es Probleme bei der Sicherung von KI-Algorithmen, die "einfach noch nicht gelöst wurden", wie Vassilev ausführt. "Wenn jemand etwas anderes sagt, ist er ein Scharlatan."

In ihrem Paper haben die Autorinnen und Autoren die Möglichkeiten, wie KI-Systeme manipuliert werden könnten, kategorisiert. 4 Probleme stehen dabei im Fokus:

"Die meisten dieser Angriffe sind relativ einfach durchzuführen und erfordern minimale Kenntnisse des KI-Systems und begrenzte Fähigkeiten", so Co-Autorin Alina Oprea, Informatik-Professorin an der Northeastern University.

In ihrem Papier (PDF) gehen die Autorinnen und Autoren im Detail auf die verschiedenen Angriffsarten ein und zeigen mögliche Mechanismen auf, um die Gefahren zu mindern. Mit der Auflistung soll einerseits besser verstanden werden, welche Aspekte beim Training und Einsatz von KI-Modellen berück­sichtigt werden müssen. Andererseits sollen bessere Abwehr­mechanismen gegen Manipulationen und Angriffe entwickelt werden können.