Interne Vorwürfe: Keine Wasserzeichen für ChatGPT, damit Nutzer nicht auffliegen

OpenAI soll bereits vor rund einem Jahr ein System entwickelt haben, durch das sich ChatGPT-Texte mit einem Wasserzeichen versehen lassen, berichtet das Wall Street Journal. Veröffentlicht wurde es aber nicht. Einer der Gründe: Man habe Nutzer nicht auffliegen lassen wollen.

Denn per se soll das Tool zur Veröffentlichung bereitstehen. „Es ist nur die Frage eines Knopfdrucks“, erklärte eine namentlich nicht genannte Person, die mit den Vorgängen vertraut ist, dem Wall Street Journal. Die Zeitung konnte auch entsprechende Dokumente einsehen.

OpenAI spricht von Risiken und komplexer Technologie

Im Kern geht es laut den internen Quellen also nicht um technische Fragen, sondern um die Geschäftspolitik. Der Vorwurf ist: OpenAI befürchtet in erster Linie sinkende Nutzerzahlen für den AI-Chatbot. Das gelte etwa für Schüler und Studenten, die ChatGPT für Hausarbeiten verwenden.

Eine OpenAI-Sprecherin verwies auf Anfrage des Wall Street Journal hingegen auf technische Risiken. Die Wasserzeichen-Methode, die man entwickle, sei vielversprechend, es handele sich aber um ein komplexes Feld. So könnten etwa Texte von Personen, die keine englischen Muttersprachler sind, überproportional häufig von Fehlern betroffen sein. Laut der Sprecherin sei daher ein übergeordneter Ansatz nötig, der über das Ökosystem von OpenAI hinausgehe.

Wasserzeichen sind bei Bildgeneratoren Standard

Die generativen AI-Bildgeneratoren beinhalten praktisch alle ein Wasserzeichen-System. Somit lässt sich feststellen, ob ein Bild authentisch ist oder von einem bestimmten Dienst erstellt oder zumindest verändert wurde.

Bei Texten ist das Vorgehen deutlich schwieriger. OpenAI hatte bereits im Februar 2023 eine Erkennungssoftware vorgestellt, die lieferte aber keine präzisen Resultate. Nach wenigen Monaten wurden sie wieder abgeschaltet.

Dass sich auch KI-Texte prinzipiell identifizieren lassen, legen Untersuchungen von Googles KI-Tochter DeepMind nahe. Das SynthID-System wurde bereits in Gemini integriert, befindet sich aber noch in der Betaphase und ist nicht weit verbreitet.