Der Bundesrat unterstützt eine Motion von Raphaël Mahaim (Grüne/VD). Eine Begründung legte er der veröffentlichten Stellungnahme nicht bei. Anbieter von KI-Anwendungen müssen sich demnach einer Bewertung der Risiken und Schäden unterziehen, die mit der Erstellung von Deepfake-Inhalten sexueller Natur verbunden sind.

Laut dem Motionstext müssen die Anbieter zudem Schutzmassnahmen ergreifen, wenn ihre Anwendungen in der Lage sind, solche Inhalte zu generieren. Eine Kontrollinstanz soll Risikoabschätzungen und ergriffene Massnahmen prüfen und, falls nötig, Sanktionen aussprechen.

Untermauert wird die Forderung mit dem KI-Tool "Grok", das in die Plattform X integriert ist. Dieses habe Bilder von Frauen und Kindern so abgeändert, dass diese in äusserst knapper Kleidung aufreizende Posen eingenommen hätten.

Besonders für betroffene Kinder stellten derartige Deepfakes schwere sexuelle Gewalt mit potenziell schwerwiegenden und dauerhaften Folgen dar, schrieb Mahaim. Eine nachträgliche strafrechtliche Verfolgung derartiger Verstösse genüge nicht.

Generative KI-Instrumente ermöglichten es, sexualisierte Deepfakes in grosser Zahl zu erstellen und mit grosser Geschwindigkeit zu verbreiten. Es reiche nicht aus, Persönlichkeitsverletzungen erst nachträglich strafrechtlich zu verfolgen: Mit generativen KI-Tools könnten sexualisierte Deepfakes in grosser Zahl, mit hoher Geschwindigkeit und weltweiter Reichweite erstellt und verbreitet werden. Das geschehe deutlich schneller, als sie entfernt oder strafrechtlich verfolgt werden können.

Als Nächstes entscheidet der Nationalrat über die Motion. Im März nahmen beide Räte eine Motion von Ständerat Fabio Regazzi (Mitte/TI) an, in der der Bundesrat aufgefordert wird, eine Strategie gegen den Missbrauch von Bildern auszuarbeiten, wobei dem Schutz von Frauen, Jugendlichen und Kindern besondere Aufmerksamkeit zu widmen ist.