Unispital Zürich trainiert KI als Röntgenbild-Fälscher

Künstliche Intelligenz kann bei Diagnosen helfen. Aber sie kann auch böswillig eingesetzt werden, warnt das renommierte Spital.
 
Ein Beitrag zum Thema Künstliche Intelligenz und Security von einer ungewohnten Seite: Das Universitätsspital Zürich warnt, dass Cyberkriminelle künstliche Intelligenz einsetzten könnten, um Diagnosen zu verfälschen. Dies müsse bei der Entwicklung von zukünftiger Hard- und Software unbedingt miteinbezogen werden.
 
Um die Realität dieser Gefahr aufzuzeigen, hat ein Team von Wissenschaftlern des Unispitals, der ETH Zürich und des Memorial Sloan Kettering Cancer Center in New York eine KI dazu trainiert, Röntgenbilder zu verfälschen. Und zwar so, dass die Fälschung auch für Röntgenspezialisten nicht erkennbar ist.
 
Konkret trainierten sie die KI anhand von 680 Mammographien von 334 Patientinnen darauf, Bilder, die eigentlich Krebsgewebe zeigen, in solche umzuwandeln, die dies nicht tun. Oder umgekehrt Krebsanzeichen in Bilder von gesundem Gewebe einzufügen.
 
Die resultierenden Bilder wurden drei erfahrenen Radiologen vorgelegt. Diese konnten nicht erkennen, welche Bilder verfälscht waren und welche nicht.
 
Noch kein Grund zur Sorge – aber vielleicht bald
"Künstliche Intelligenz ist in der Lage zu lernen, wie Brustkrebs aussieht. Das hilft uns in der Diagnostik", erklärt Doktor Anton Becker vom Unispital in einer Medienmitteilung. Nun habe die Studie gezeigt, dass sie auch in der Lage sei, Krebs in Mammographien gesunder Patientinnen einzubringen oder zu entfernen. Noch bestehe kein Grund zur Sorge, da diese Art von Cyberattacke derzeit noch nicht durchführbar sei. Dennoch sei es wichtig, die medizinische Fachwelt sowie Hard- und Softwareanbieter für das Problem zu sensibilisieren, solange es noch theoretisch sei.
 
Aufgrund eines Missverständnisses bezüglich des Publikationstermins wurde die Medienmitteilung des Universitätsspitals nachträglich wieder zurückgezogen. Die wissenschaftliche Beschreibung des Experiments ist aber weiterhin online verfügbar. (hjm)