Deepfake-Stimmen täuschen Menschen, nicht aber das Gehirn

12. Juni 2024 um 11:39
image
Illustration: Erstellt durch Inside IT mit Midjourney

Echte Stimmen stimulieren andere Gehirnbereiche als Deepfakes, zeigt eine Studie der Uni Zürich.

Das Gehirn reagiert anders auf künstlich imitierte Stimmen als auf echte. Dies passiert selbst dann, wenn Menschen sogenannte Deepfake-Stimmen nicht bewusst als Fälschung erkennen, so eine Studie der Universität Zürich, die in 'Nature' veröffentlicht wurde.
Deepfake-Technologien können das einzigartige Stimmprofil eines Menschen sehr genau nachmachen. Genutzt wird dies zum Beispiel für Betrugsversuche am Telefon.
Für die Studie zeichneten die Forschenden die Stimmen von vier männlichen Sprechern auf und imitierten sie als Deepfake-Stimmen um. 25 Probandinnen und Probanden mussten entscheiden, ob zwei gehörte Stimmen identisch waren, oder ob eine davon eine Deepfake-Stimme war.

Probandinnen und Probanden waren misstrauisch

Die Forschenden untersuchten viele Aspekte der Stimmerkennung durch die Probanden, Zusammengefasst lässt sich sagen, dass die Deepfake-Stimmen mehrheitlich korrekt erkannt wurden, in knapp 30% der Fälle aber nicht. "Dies verdeutlicht, dass aktuelle Deepfake-Stimmen zwar nicht perfekt die Identität imitieren, aber das Potenzial haben, die Wahrnehmung von Menschen zu täuschen", wird die Erstautorin Claudia Roswandowitz in der Mitteilung der Universität zur Studie zitiert.
Bei der Bewertung dieser Ergebnisse muss man miteinbeziehen, dass die Probanden wussten, dass eine ihnen vorgespielte Stimme ein Deepfake sein könnte. Dies zeigt sich beispielsweise darin, dass in ebenfalls knapp 30% der Fälle eine natürliche Stimme als Deepfake wahrgenommen wurde. Die Probanden waren also misstrauisch, was darauf schliessen lässt, dass die Erkennungsrate bei nichtsahnenden Menschen tiefer wäre.

Hirnareale reagieren unterschiedlich

Das Forscherteam interessierte sich gleichzeitig dafür, wie das Gehirn auf Deepfake- und natürliche Stimmen reagiert. Dazu untersuchten sie die Aktivität verschiedener Hirnregionen mittels Magnetresonanzuntersuchungen. Das überraschende Ergebnis ist, dass die Gehirne der Getesteten anscheinend klar unterschiedlich auf Deepfakes reagieren, auch wenn die Probanden sie nicht bewusst erkennen. Der sogenannte Nucleus Accumbens, ein Bestandteil des Belohnungssystems des Hirns, war viel aktiver, wenn beide den Probanden vorgespielten Stimmen natürliche Stimmen waren. Der auditorische Cortex, zuständig für die Analyse von Geräuschen, war hingegen aktiver, wenn eine der beiden Stimmen eine Deepfake-Stimme war.
(Mit Material von Keystone-sda)

Loading

Mehr erfahren

Mehr zum Thema

image

Swiss Marketplace Group kauft Moneyland

Der Online-Vergleichsdienst gehört neu zur Swiss Marketplace Group. Alle Mitarbeitenden werden übernommen und die Marke soll erhalten bleiben.

publiziert am 2.7.2024
image

Schweiz holt dreimal Gold an Informatik-Wettbewerb

Junge Schweizer Informatikerinnen und Informatiker zeigten ihr Können gleich an zwei internationalen Meisterschaften.

publiziert am 2.7.2024
image

Europa kriegt ein eigenes "Twint"

Das neue europäische Bezahlsystem "Wero" der European Payments Initiative wurde lanciert. Vorbild für die mobile Bezahllösung war das schweizerische Twint.

publiziert am 2.7.2024 3
image

68 Flüge von IT-Panne am Zürcher Flughafen betroffen

Am Freitagnachmittag konnten am Zürcher Flughafen rund 90 Minuten lang keine Flugzeuge starten und landen. Ein Bug habe eine Störung zwischen zwei Applikationen ausgelöst, so Skyguide.

publiziert am 1.7.2024