ChatGPT-Texte in Europa bekommen eine unsichtbare Signatur

OpenAI hat am Sonntag erklärt, dass von ChatGPT und Codex erzeugte Texte innerhalb der Europäischen Union künftig eine verborgene Markierung tragen. Am Geschriebenen sieht man nichts davon. Das System namens textGrain lenkt bei jedem Schritt leicht, welches Wort das Modell wählt, sodass der fertige Text ein statistisches Muster enthält, das ein Detektor mit dem passenden Schlüssel erkennen kann.

Der Anlass ist Artikel 50 der EU-KI-Verordnung, wonach maschinell erzeugte Inhalte maschinenlesbar erkennbar sein müssen, verpflichtend ab dem 2. Dezember. Die Einführung erreicht in den kommenden Wochen berechtigte Nutzer aller Tarife in der EU. Entwickler außerhalb Europas können dasselbe über die API einschalten, standardmäßig ist es aus. Den Detektor selbst gibt OpenAI noch nicht öffentlich heraus, nur an ausgewählte Forschende und Organisationen.

Wie brüchig das Ganze ist, sagt OpenAI ungewöhnlich offen. Ersetzt man jedes zehnte Wort durch ein Synonym, fällt die Erkennung von rund 92 Prozent auf 66. Bei jedem vierten Wort sind es noch 17. Kurze Passagen sind schwieriger, Mathematik ist nahezu aussichtslos, und Übersetzen oder starkes Überarbeiten kann die Markierung ganz auswaschen. Das Wasserzeichen sagt zudem nichts darüber, wer den Text verfasst hat, welches Konto ihn erzeugte oder worum es im Gespräch ging.

Praktisch ist das eher etwas zum Verstehen als zum Handeln. Eine Lehrkraft, ein Arbeitgeber oder eine Zeitung kann nicht einfach einen Zauberstab über ein Dokument schwenken und eine Antwort bekommen, und wem anderes erzählt wird, dem wird etwas verkauft. Wenn Sie die ChatGPT-App unter Windows nutzen: Die App-Update-Prüfung von Tendvane hält sie im Hintergrund auf dem aktuellen Stand, während solche Änderungen ausgeliefert werden.