OpenAI va appliquer un filigrane invisible aux textes générés par ChatGPT et Codex dans l’Union européenne (유럽연합, UE). Dans un billet de blog publié lundi, l’entreprise a annoncé que le déploiement auprès des utilisateurs éligibles de l’UE se ferait au cours des prochaines semaines. Sont concernés les utilisateurs éligibles de toutes les formules, mais les critères précis d’éligibilité n’ont pas été publiés dans les éléments disponibles.

Contexte

Les règles de transparence du règlement européen sur l’intelligence artificielle (EU AI Act) sont entrées en vigueur le 2 août. Elles imposent aux entreprises spécialisées dans l’IA de signaler les contenus générés par l’IA de manière à ce que d’autres systèmes puissent les identifier. OpenAI a indiqué qu’elle appliquerait un filigrane dans l’UE pour se conformer à ces règles.

Le filigrane ne consiste pas à insérer un symbole visible dans le texte. Il repose sur de légères modifications de la façon dont le modèle choisit les mots, afin de créer un motif qu’un détecteur peut reconnaître. Comme la trace est intégrée au texte lui-même, elle est conservée lorsqu’on le copie-colle. OpenAI précise toutefois que cette méthode ne permet pas d’identifier l’utilisateur.

OpenAI a également publié un rapport technique sur la technologie textGrain. Rédigé conjointement par des chercheurs de l’université de Pennsylvanie (펜실베이니아대학교) et de l’université Yale (예일대학교), le rapport décrit un procédé qui utilise une clé secrète pour orienter la prédiction du mot suivant. Selon le rapport, lorsque ces ajustements s’accumulent au fil de centaines de prédictions, le texte et la clé peuvent servir à détecter un contenu généré par l’IA. OpenAI affirme que l’activation du filigrane n’a pas entraîné de changement notable des performances du modèle.

Cette mesure contraste aussi avec celles d’autres entreprises. Deux mois plus tôt, Anthropic avait annoncé l’application mondiale d’un filigrane aux textes générés par Claude. Certains utilisateurs auraient alors protesté, faisant valoir qu’ils fournissaient les instructions, le contexte et les décisions. En 2024, il a été rapporté qu’OpenAI avait mis au point un filigrane textuel, mais en avait reporté le lancement, notamment par crainte que les utilisateurs ne se tournent vers des concurrents dont les textes n’étaient pas filigranés. Anthropic, Google, Meta, Microsoft et OpenAI figurent parmi les entreprises qui se sont engagées à respecter le code de bonnes pratiques de l’UE sur les contenus générés par l’IA.

Ce que cette annonce signifie

Les utilisateurs de l’UE pourraient disposer d’un indice permettant d’identifier les textes produits par l’IA. Mais le filigrane ne constitue pas un marqueur qui permet toujours d’identifier un texte avec certitude. Lors d’un test d’OpenAI, remplacer 10 % des mots par des synonymes a fait passer le taux de détection d’environ 92 % à 66 %. L’entreprise indique également que les textes courts, les réponses à des problèmes de mathématiques et les textes traduits sont difficiles à détecter.

Les résultats de la détection ne peuvent donc pas, à eux seuls, servir à établir la paternité d’un texte ou à conclure à une fraude. L’absence de filigrane ne prouve pas qu’un texte a été écrit par un humain. Il peut être trop court ou avoir été largement retouché, ou avoir été généré par l’IA d’une autre entreprise. À l’inverse, la présence d’un filigrane peut seulement indiquer qu’un système d’OpenAI a généré ou traité une partie du texte ; elle ne révèle pas dans quelle mesure une personne y a apporté son jugement, ses retouches ou sa créativité.

Par exemple, si un détecteur ne trouve pas de filigrane dans un texte, il est difficile d’en conclure, sur cette seule base, qu’il a été écrit par un humain. Il faut aussi tenir compte de sa longueur, de l’ampleur des retouches et de la possibilité que d’autres outils d’IA aient été utilisés.

Indépendamment du déploiement dans l’UE, les développeurs du monde entier qui utilisent l’API d’OpenAI peuvent activer le filigrane sur certains modèles. Il est toutefois désactivé par défaut, et OpenAI a indiqué qu’au lancement, le filigrane textuel ne serait pas activé par défaut dans le monde entier. Il convient donc de distinguer son application aux utilisateurs de l’UE de son utilisation facultative par les développeurs de l’API.

Ce qui est établi et ce qui reste inconnu

Ce qui est établi

  • Dans l’UE, le déploiement auprès des utilisateurs éligibles de ChatGPT et de Codex doit avoir lieu au cours des prochaines semaines.
  • Dans l’UE, toutes les formules sont concernées pour les utilisateurs éligibles.
  • Les développeurs de l’API peuvent activer le filigrane sur certains modèles partout dans le monde, mais il est désactivé par défaut.
  • Le filigrane laisse un motif invisible dans le choix des mots et n’identifie pas l’utilisateur.
  • Dans un premier temps, l’accès au détecteur sera réservé aux chercheurs agréés et aux organisations professionnelles, afin de les aider à évaluer sa fiabilité et son utilisation responsable.

Ce qui reste inconnu

  • Quels sont les critères précis pour être considéré comme un « utilisateur éligible » dans l’UE ?
  • À partir de quand les chercheurs agréés et les organisations professionnelles pourront-ils utiliser le détecteur ?
  • Quels modèles précis seront concernés par le filigrane et quel sera le calendrier de déploiement ?

Ce que les lecteurs peuvent vérifier

  • Si vous utilisez ChatGPT ou Codex dans l’UE, vérifiez si votre compte est concerné et consultez les informations du service sur le calendrier de déploiement. Les éléments disponibles ne précisent pas les critères d’éligibilité.
  • Si vous devez déterminer qui a écrit un texte, il est important de ne pas vous fonder uniquement sur le résultat d’un détecteur de filigrane. OpenAI a indiqué que l’accès initial au détecteur serait réservé aux chercheurs agréés et aux organisations professionnelles.
  • Les développeurs qui utilisent l’API doivent vérifier que le filigrane est désactivé par défaut et qu’il n’est proposé que sur certains modèles. Les éléments disponibles ne permettent pas de connaître la liste précise des modèles ni le calendrier.