Wasserzeichen sind ein mögliches Mittel, um von KI generierte Inhalte zu markieren und damit auch als solche zu erkennen. Offenbar hat OpenAI Tools entwickelt, die es zum einen ermöglichen sollen, von KI generierte Texte mit einem Wasserzeichen zu versehen und zum anderen, Texte als KI-generiert zu erkennen. Dies berichtete zuerst das 'Wall Street Journal'.

Intern herrsche Uneinigkeit über die Veröffentlichung der Werkzeuge, so der Bericht. Einerseits könnten sie einen verantwortungsvolleren Umgang mit KI-generierten Inhalten fördern, andererseits befürchte man negative Auswirkungen auf das Geschäftsergebnis. Denn eine Befragung habe ergeben, dass fast 30% der Nutzerinnen und Nutzer ChatGPT weniger nutzen würden, wenn bei diesem Tool Wasserzeichen eingesetzt würden, bei einem Konkurrenten aber nicht.

Das 'Wall Street Journal' schreibt, dass die Wasserzeichnung die Qualität der Textausgabe laut dem Unternehmen nicht negativ beeinflusse. Zudem habe die Methode eine sehr hohe Trefferquote.

Vereinfacht gesagt, könne das Tool erkennen, welche Wörter und Phrasen von einem Modell am wahrscheinlichsten verwendet werden, und welche weiter folgen. So entstehe ein Muster. Das Wasserzeichen sei also ein Muster im Text selbst, heisst es bei 'Ars Technica', und würde auch dann erhalten bleiben, wenn ein Anwender einen Text kopiert und an anderer Stelle einfügt oder wenn nur er nur geringfügige Änderungen vornimmt.

Nachdem der Bericht publiziert wurde, bestätigte OpenAI in einem Blog-Beitrag, dass es an der Wasserzeichnung von Text arbeite. Im Beitrag weist die Firma aber auch auf Probleme hin.

Beispielsweise würden Umformulierungen des Textes mit einem anderen KI-Modell es "für böswillige Akteure trivial machen, die Wasserzeichnung zu umgehen". Auch könnte die Verwendung von KI als Schreibwerkzeug von Nicht-Muttersprachlern stigmatisiert werden, heisst es weiter. Gleichzeitig weist OpenAI auch darauf hin, dass effektive Wasserzeichen potenzielle Nutzerinnen und Nutzer abschrecken könnte.

Im Blog-Beitrag erklärt das Unternehmen weiter, man auch alternative Lösungen untersuche, die sich noch in der Entwicklung befinden. Dazu gehöre die Möglichkeit, kryptografisch signierte Metadaten in den Output einzubinden – ein Ansatz, der auch bei KI-generierten Bildern erprobt wird.