Midjourney will gegen Desinformation vorgehen

12. Februar 2024 um 10:28
image
Aktuell funktioniert die Erstellung solcher gefälschten Fotos noch. Illustration: Erstellt durch inside-it.ch mit Midjourney

Weil in den USA Wahlen anstehen, sollen mit der KI während 12 Monaten keine Bilder mit politischen Persönlichkeiten erzeugt werden können. Noch ist es aber möglich.

Wenn sie sich genügend Zeit nehmen, können wohl die meisten Menschen KI-generierte Bilder von echten unterscheiden. Das Problem ist, dass das beim Durchscrollen von Social-Media-Feeds nur die wenigsten tun. Die meisten reagieren einfach emotional, wenn ein Foto beispielsweise die Verhaftung von Donald Trump zeigt. Solche Bilder hat es tatsächlich gegeben und sie wurden allesamt mit Midjourney erstellt.

Verbot von Fotos mit Biden und Trump

Um das zu verhindern, will die Bildgenerierungsplattform Midjourney womöglich verbieten, politische Fotos zu erzeugen – insbesondere solche, die Donald Trump und Joe Biden zeigen. Dies berichtet das US-Wirtschaftsmagazin 'Bloomberg'.
Laut Midjourney-CEO David Holz stehe man "kurz davor", solche Bilder für die nächsten 12 Monate zu verbieten. Hintergrund des Ansinnens sind die anstehenden Wahlen in den USA, die Midjourney offensichtlich nicht mit Fakenews und Desinformation beeinflussen will.

Strikte Umsetzung nötig

Schon heute verbietet es Midjourney, Bilder zu generieren, die "Persönlichkeiten des öffentlichen Lebens respektlos, schädlich, irreführend" darstellen. Allerdings ist es nicht besonders schwierig, die Blockade von bestimmten Prompts zu umgehen. Meistens genügt es, einzelne Wörter zu verändern, um trotzdem zum gewünschten Ergebnis zu kommen.
Man darf gespannt sein, ob Midjourney sie diesmal – sofern die Plattform die Sperre tatsächlich beschliesst – strikter umsetzt.

Loading

Mehr zum Thema

image

VX IT Das schnellste IT-Rack der Welt

IT-Schranksystem. Willkommen in der Zukunft: Rittal präsentiert mit seinem IT-Racksystem VX IT einen maximal durchdachten Variantenbaukasten. Damit lassen sich in bisher unerreichter Schnelligkeit neue IT- Infrastrukturen aufbauen – vom einzelnen Server-Rack bis zum kompletten Rechenzentrum.

image

OpenAI sichert sich in der Schweiz "GPT" als Markenname

Die USA haben die Eintragung als Marke nicht akzeptiert, in der EU ist ein Löschungsverfahren hängig. Eine Einschätzung.

publiziert am 20.2.2024
image

St. Galler Kantonsrat bewilligt Nachtragskredite für Steuersoftware

Mitte-EVP und GLP wollten die Entwicklung einer neuen Steuersoftware für die Steuerverwaltung stoppen, wurden aber von der Mehrheit überstimmt. Dem 74-Millionenprojekt steht nichts mehr im Weg.

publiziert am 20.2.2024
image

Softwarefehler der Blitzkasten: Bern zahlt Bussen an "Temposünder" zurück

Im vergangenen Herbst wurden tausende Autolenkende in Bern irrtümlicherweise geblitzt. Fast alle haben ihre Bussen laut Kantonspolizei erstattet bekommen.

publiziert am 19.2.2024