Elon Musks KI-Chatbot Grok bekommt ein paar Grenzen aufgezeigt, da sich damit anfangs schockierende Bilder von prominenten und bekannten Personen generieren liessen. Am Mittwoch startete X Beta-Tests von Grok-2 auf seiner Plattform und es dauerte nicht lange, bis Nutzerinnen und Nutzer einige sehr zweifelhafte Bilder posteten.

Bittet man beispielsweise den Bildgenerator von OpenAI um ein Bild bittet, das Elon Musk und Hillary Clinton beim Handschlag zeigt, erhält man die Antwort: "Ich kann keine Bilder erstellen, die spezifische Personen wie Elon Musk oder Hillary Clinton realistisch darstellen." Für Grok ist dies aber kein Problem. Er generiert Kamala Harris oder Donald Trump mit einer Schusswaffe oder Barack Obama und Bill Gates beim Kokainkonsum. Un er scheute er sich auch nicht, semipornografische Bilder oder urheberrechtlich geschütztes Material praktisch im Look des Originals nachzuzeichnen.

Musk ist bekannt für seine Abneigung für Einschränkungen, die er als schnell auch als Zensur bezeichnet. Die Leute sollten mit seiner Software "ein bisschen Spass" haben können, schrieb er am Donnerstag.

Dennoch aber war es am Freitag plötzlich nicht mehr möglich, mit Grok per Text-Befehl Bilder zu erzeugen, die Personen beim Drogenkonsum oder Umgang mit Waffen zeigen. Ein grosses Problem ist, nicht nur bei X, dass die Regeln häufig undurchsichtig sind. Es ist daher nicht immer klar, warum ein Bild generiert werden kann, aber ein anderes nicht. Klar ist, dass angesichts der bevorstehenden US-Wahlen Deepfakes ein sehr grosses Risiko bleiben. Für Kommentare war xAI, die Firma hinter der KI Grok, nicht zu erreichen.

Die eigentliche Technologie, mit der Grok Bilder generiert, stammt nicht von xAI, sondern vom deutschen Startup Black Forrest Labs. Musks Firma greift auf dessen KI-Modell Flux zurück. Eine eigene Software zur Bilderzeugung werde entwickelt und brauche noch einige Monate, erklärte Musk.