Le filigrane de ChatGPT résistera mal aux réécritures dans l’Union européenne

OpenAI prévoit de déployer textGrain sur les textes de ChatGPT et Codex dans l’Union européenne au cours des prochaines semaines.

Ce filigrane sera invisible à la lecture. Il ne prendra donc pas la forme d’une mention ajoutée à la réponse, mais d’un signal statistique incorporé à sa rédaction. Le dispositif doit permettre à un outil adapté de reconnaître qu’un passage provient probablement d’un service d’OpenAI.

Le changement concernera les abonnements gratuits comme payants de ChatGPT dans l’Union européenne. Selon Clubic, le périmètre annoncé englobe également les textes produits par Codex. Le déploiement n’a toutefois pas encore commencé : il est annoncé pour les semaines à venir.

Cette évolution répond à un enjeu de traçabilité des contenus générés dans l’environnement numérique. Elle ne rendra pas automatiquement leur origine visible aux lecteurs, puisque le marquage restera imperceptible sans analyse. Son utilité dépendra à la fois de l’accès à un détecteur compatible et de la conservation du texte sous une forme assez proche de la réponse initiale.

Un marquage conçu pour être lu par une machine

TextGrain répond aux exigences de l’AI Act relatives à l’identification automatisée des contenus générés par des systèmes d’intelligence artificielle. L’objectif n’est pas de rendre leur origine immédiatement visible à toute personne qui lit ou copie un texte. Il s’agit de créer une signature qu’un logiciel de détection peut rechercher.

Le mécanisme intervient pendant la génération. Lorsqu’il existe plusieurs formulations possibles, le modèle oriente légèrement son choix de mots afin de former un motif statistique. Pour le lecteur, la réponse demeure un texte ordinaire. Pour le détecteur, l’accumulation de certains choix lexicaux constitue un indice mesurable.

Le filigrane ne repose donc pas sur un élément graphique, un caractère caché ou une étiquette attachée au document. Cette différence a une conséquence concrète : copier la réponse dans un courriel, un traitement de texte ou une publication en ligne ne retire pas automatiquement le signal, puisque celui-ci réside dans la formulation elle-même.

Le marquage accompagne ainsi les mots plutôt que le fichier qui les contient. Un même passage peut rester analysable après un simple copier-coller. En revanche, ce principe ne garantit pas que le motif résistera à des modifications du vocabulaire, car les mots choisis pendant la génération sont précisément le support de la signature.

La détection nécessitera néanmoins un outil spécialisé. iPhoneSoft indique que son accès doit être limité, dans un premier temps, à des chercheurs agréés et à des organisations spécialisées. Le grand public ne disposera donc pas immédiatement d’un service lui permettant de soumettre librement un texte à l’analyse.

Une indication d’origine, pas une trace nominative

Un résultat positif apportera un indice sur la génération du passage par ChatGPT ou Codex avec textGrain activé. Il ne transformera pas le texte en trace nominative et ne permettra pas de reconstituer son historique complet.

Cette distinction compte notamment lorsqu’un utilisateur corrige, réorganise ou complète une réponse avant de la publier. Le détecteur pourra éventuellement reconnaître le signal encore présent, mais il ne saura pas attribuer chaque phrase à une personne ou à la machine. Le filigrane ne permet pas davantage de relier le contenu à un utilisateur précis.

Il ne pourra pas non plus indiquer si la version examinée reproduit intégralement la sortie d’origine ou si elle a fait l’objet d’un travail éditorial. La détection porte sur un motif statistique encore présent dans le passage, pas sur la succession des opérations qui ont mené au texte final. Un document mêlant génération et intervention humaine ne pourra donc pas être réparti automatiquement entre ces deux contributions.

Quelques synonymes suffisent à affaiblir le signal

La principale limite vient du mécanisme lui-même. Puisque textGrain encode son motif dans le vocabulaire, remplacer des mots peut désorganiser cette signature. Les résultats rapportés montrent une dégradation rapide, même lorsque la structure générale et le sens du texte restent proches.

Entre le texte initial et la version dont un mot sur dix a été substitué, la détection perd ainsi environ 26 points. Lorsqu’un quart du vocabulaire change, elle chute de 75 points par rapport au niveau de départ. Une intervention éditoriale peut donc préserver l’idée d’origine tout en endommageant fortement le motif recherché.

Cette fragilité limite la portée pratique du résultat. Le détecteur examinera l’état du passage qui lui est soumis, sans pouvoir reconstituer un éventuel filigrane altéré auparavant. Une reformulation qui maintient le fond tout en changeant suffisamment le vocabulaire peut donc réduire la visibilité statistique de la génération initiale.

Une absence de détection ne prouvera pas une rédaction humaine. Elle pourra aussi correspondre à un texte suffisamment remanié pour avoir perdu son signal. À l’inverse, la présence du filigrane indiquera une origine probable dans un outil OpenAI compatible, sans déterminer les modifications apportées ensuite.

TextGrain constituera donc un mécanisme de traçabilité automatisée plutôt qu’un détecteur général de tous les textes issus de l’intelligence artificielle. Son périmètre restera lié aux sorties marquées de ChatGPT et Codex dans l’Union européenne, tandis que sa robustesse dépendra directement de la conservation des choix de mots effectués lors de la génération.

Photo à la une. Source : Pexels. Photographe : Yan Krukau. Licence Pexels.