Erkennen wir Deepfakes doch besser als gedacht?

18. Juli 2022, 13:34
  • innovation
  • f&e
  • künstliche intelligenz
image
Deepfake-Bilder von thispersondoesnotexist.com.

Forscher zeigen, dass das menschliche Gehirn auf Deepfakes reagiert, auch wenn sie nicht bewusst als Fälschungen wahrgenommen werden.

Das Thema Deepfakes wird uns sicher noch eine Weile beschäftigen. Die Probleme sind bekannt: Überzeugend echt aussehende gefälschte Fotos könnten einen Politiker in einer problematischen Situation darstellen oder in einem gefälschten Video könnten einer Firmenchefin falsche Worte in den Mund gelegt werden. Auch könnten Deepfake-Bilder verwendet werden, um Social-Media-Bots echt aussehen zu lassen, schreibt die Universität Sidney. Demnach hat eine russische Troll-Farm im Jahr 2016 über 50'000 Bots eingesetzt, die Deepfakes als Profilbilder verwendeten, um den Ausgang der US-Präsidentschaftswahlen zu beeinflussen. Jüngere Beispiele umfassen Deepfake-Videos von Vladimir Putin und Volodymyr Zelensky.
Forschende der Uni Sydney haben in einem Experiment versucht herauszufinden, wie gut Menschen Deepfakes erkennen. Die Hirnaktivitäten der Teilnehmenden hätten gezeigt, dass Deepfakes in 54% der Fälle erkannt werden konnten. Sobald die Teilnehmenden die Deepfakes aber aktiv benennen mussten, sei ihnen das nur in 37% der Fälle korrekt gelungen.
Dazu sind laut Universität zwei Experimente durchgeführt worden. Bei einem wurden den Teilnehmern 50 Bilder von echten und computergenerierten falschen Gesichtern gezeigt. Sie sollten erkennen, welche echt und welche unecht waren. Beim zweiten wurden einer anderen Gruppe von Teilnehmern dieselben Bilder gezeigt, während ihre Gehirnaktivität mittels EEG aufgezeichnet wurde, ohne dass sie wussten, dass die Hälfte der Bilder gefälscht war. Ein Vergleich der Ergebnisse habe gezeigt, dass "die Gehirne der Menschen besser in der Lage waren, Fälschungen zu erkennen, als ihre Augen", schreiben die Forschenden.

Basis für Algorithmen

Die Trefferquote sei zwar mit 54% niedrig, aber "statistisch zuverlässig", glauben die Forscher.
"Das zeigt uns, dass das Gehirn den Unterschied zwischen gefälschten und echten Bildern erkennen kann." Dies lasse darauf schliessen, dass die derzeitigen Deepfakes fehlerhaft seien, führen die Forscher aus.
"Wenn wir lernen können, wie das Gehirn Fälschungen erkennt, könnten wir diese Informationen nutzen, um Algorithmen zu entwickeln, die Fälschungen auf digitalen Plattformen wie Facebook und Twitter erkennen", glaubt Thomas Carlson von der School of Psychology der Universität Sidney.
Allerdings merken die Autoren an, dass sich diese Forschung noch am Anfang befinde. Möglicherweise führe der Ansatz nicht zu einer Lösung, aber man habe vielleicht ein weiteres Instrument, um gegen Fälschungen und die Verbreitung von Desinformationen vorzugehen.

Loading

Mehr zum Thema

image

Elektroflugzeug E-Sling hebt ab

Das von ETH-​Studierenden entwickelte vierplätzige E-Flugzeug ist zum ersten Mal abgehoben. Am Projekt wurde im Innovationspark in Dübendorf gearbeitet.

publiziert am 30.9.2022
image

Schweiz: Wettbewerbsfähigkeit top, E-Government flop

In der aktuellen IMD-Studie steigt die Schweiz in Sachen digitale Wettbewerbsfähigkeit in die Top 5 auf. Dahingegen schwächelt sie im Bereich E-Government.

publiziert am 29.9.2022 1
image

Nie mehr Hydranten anklicken: Cloudflare präsentiert Alternative zu Captchas

Mit "Turnstile" sollen Captchas obsolet werden. Die Technik laufe im Hintergrund und könne menschliche Webnutzer innert einer Sekunde von Bots unterscheiden.

publiziert am 29.9.2022 1
image

Blockchain-Startup generiert 5 Millionen mit Token-Verkauf

Chain4Travel will auf einem Blockchain-basierten Netzwerk den Handel von Reiseprodukten ermöglichen. Beim ersten Tokenverkauf hat das Startup 5 Millionen Franken generiert.

publiziert am 29.9.2022