Les textes de ChatGPT en Europe vont porter une signature invisible

OpenAI a annoncé dimanche que les textes produits par ChatGPT et Codex au sein de l'Union européenne porteront désormais une marque cachée. L'écriture n'a l'air de rien de spécial. Le système, appelé textGrain, oriente légèrement le choix de chaque mot par le modèle pour que le texte final contienne un motif statistique qu'un détecteur muni de la bonne clé peut repérer.

La raison tient à l'article 50 du règlement européen sur l'IA, qui exige que les contenus générés par machine soient identifiables de manière lisible par une machine, obligation applicable à partir du 2 décembre. Le déploiement touchera les utilisateurs éligibles de toutes les formules dans l'UE au cours des prochaines semaines. Les développeurs hors d'Europe peuvent activer la même chose via l'API s'ils le souhaitent, l'option étant désactivée par défaut. Le détecteur, lui, n'est pas encore distribué publiquement, seulement à des chercheurs et organisations approuvés.

OpenAI est d'une franchise inhabituelle sur la fragilité du dispositif. Remplacez un mot sur dix par un synonyme et la détection tombe d'environ 92 pour cent à 66. Un mot sur quatre, et elle chute à 17. Les passages courts sont plus difficiles, les mathématiques quasiment sans espoir, et traduire ou retravailler lourdement un texte peut effacer la marque entièrement. Le filigrane ne dit par ailleurs rien de qui a écrit le texte, de quel compte l'a produit ni du sujet de la conversation.

Concrètement, c'est une chose à comprendre plutôt qu'à mettre en oeuvre. Un enseignant, un employeur ou un journal ne peut pas passer une baguette magique sur un document pour obtenir une réponse, et quiconque prétend le contraire vous vend quelque chose. Si vous utilisez l'application ChatGPT sur Windows, la vérification des mises à jour d'applications de Tendvane est ce qui la maintient discrètement à jour au fil de ce genre de changements.