OpenAI commence à déployer un filigranage textuel dans ChatGPT et Codex, en ajoutant une marque invisible lisible par machine au texte généré. Selon les informations rapportées, le déploiement commence avec les utilisateurs de l’Union européenne et semble lié à des efforts plus larges de conformité autour de l’AI Act de l’Union européenne. Cette évolution introduit une nouvelle couche d’identification liée à la provenance dans deux produits de génération de texte d’OpenAI, tout en gardant ce changement hors de vue pour les utilisateurs qui lisent le résultat lui-même.
Ce déploiement signalé est notable parce qu’il concerne le texte plutôt que les images ou l’audio. Dans ce cas, le filigrane est censé vivre à l’intérieur des mots générés de manière à ce que des systèmes automatiques puissent ensuite le détecter. Cela rend textGrain différent d’une étiquette visible ou d’un avertissement, puisque l’objectif n’est pas d’alerter directement les lecteurs, mais de créer un signal lisible par machine qui peut aider à identifier le texte généré. La fonctionnalité s’applique à ChatGPT et Codex, et le déploiement est limité aux utilisateurs de l’Union européenne au départ.
Ce qu’OpenAI ajoute
Le système est présenté comme un filigrane textuel appelé textGrain. Contrairement à une étiquette visible, ce filigrane est censé être lisible par machine et intégré dans le texte généré. Le changement s’applique à ChatGPT et Codex, et le déploiement est limité aux utilisateurs de l’Union européenne au départ. Autrement dit, les mêmes outils de génération restent disponibles, mais la sortie est désormais marquée d’une manière conçue pour la reconnaissance automatisée plutôt que pour l’attention humaine.
Selon les éléments sources, OpenAI indique que textGrain a « égalé ou dépassé » d’autres approches comme SynthID de Google DeepMind pour le texte. Le même rapport note que le travail d’Anthropic sur le filigranage, annoncé en août, repose lui aussi sur SynthID pour le texte. Ces comparaisons placent l’approche d’OpenAI aux côtés d’autres efforts qui cherchent à rendre le texte généré plus traçable d’une manière vérifiable par des systèmes, et pas seulement par des personnes.
Pourquoi ce changement compte
Le reportage relie cet ajout à des exigences liées à l’AI Act de l’Union européenne. OpenAI n’est pas la seule entreprise à aller dans cette direction : Anthropic a également fait un mouvement similaire pour répondre à ces exigences. Cela inscrit le filigranage textuel dans une tendance plus large du secteur visant à préparer le texte généré à des vérifications d’identification ou de provenance. Ce déploiement apparaît donc à la fois comme une mise à jour de produit et comme une réponse de conformité, plutôt que comme une fonctionnalité autonome sans contexte réglementaire.
OpenAI a également communiqué des scores de référence montrant des performances similaires entre le texte filigrané et le texte non filigrané. Ce détail suggère que l’entreprise cherche à ajouter le filigrane sans modifier sensiblement la qualité de la sortie, du moins dans les tests qu’elle a inclus. Le résultat de référence rapporté est important parce qu’il présente le filigrane comme quelque chose de discret à l’usage, même s’il modifie la manière dont le texte peut être traité plus tard par les systèmes de détection.
Limites du système
Les éléments sources montrent également que textGrain n’est pas une protection parfaite. OpenAI précise que le système « ne garantit pas » que chaque texte généré puisse être identifié, ce qui signifie que le filigrane est destiné à aider à la détection plutôt qu’à constituer une preuve absolue d’origine. Cette distinction compte parce que la présence d’un filigrane peut renforcer les vérifications de provenance, mais elle ne tranche pas toutes les questions sur l’origine du texte ni sur la possibilité de le détecter de manière fiable dans tous les cas.
Cette limite est importante parce que le filigranage textuel invisible dépend d’outils de détection et d’une mise en œuvre cohérents. En pratique, un filigrane peut soutenir les vérifications d’authenticité, mais il n’élimine pas à lui seul l’incertitude. Le reportage présente donc textGrain comme un mécanisme utile mais encadré, et non comme une réponse complète au problème de l’identification des textes générés par machine.
Signaux liés à OpenAI
Un autre reportage publié le même jour indique qu’OpenAI teste davantage de publicités dans ChatGPT. Même si cette évolution est distincte du filigranage textuel, elle montre que l’entreprise continue d’ajuster la plateforme de plusieurs manières à la fois. Le rapport sur les tests publicitaires ne modifie pas les détails du déploiement du filigranage, mais il ajoute à l’image d’un produit qui évolue encore activement. Pris ensemble, les deux reportages montrent qu’OpenAI apporte des changements à la fois à la manière dont le contenu est mis en avant et à la manière dont il peut être identifié après génération.
Conclusion
Le déploiement de textGrain par OpenAI représente une étape supplémentaire vers l’identification lisible par machine du texte généré par l’IA. Pour l’instant, la fonctionnalité est limitée aux utilisateurs de ChatGPT et de Codex dans l’Union européenne, et OpenAI indique qu’elle affiche des performances similaires à celles du texte sans filigrane dans les références qu’elle a partagées. Dans le même temps, l’entreprise reconnaît que le filigrane n’est pas une garantie, ce qui signifie que le système doit être compris comme une couche de détection parmi d’autres plutôt que comme une solution complète.
La portée plus large de ce mouvement est qu’il s’inscrit dans une tendance plus vaste autour de la provenance du texte et de la conformité. Alors qu’OpenAI et Anthropic avancent tous deux dans des directions liées à l’AI Act de l’Union européenne, le reportage suggère que le filigranage invisible devient une partie de l’outillage standard des entreprises qui souhaitent identifier le texte généré sans modifier l’expérience de lecture. Dans le cas d’OpenAI, textGrain est introduit comme une couche lisible par machine sous la sortie, et non comme un badge visible au-dessus.