L’Europe a instauré de nouvelles réglementations exigeant que tout contenu généré par intelligence artificielle soit identifiable. À mesure que ces règles entrent en vigueur, les entreprises du secteur adaptent leurs systèmes pour s’y conformer. Si les images créées par IA peuvent souvent être retracées grâce aux métadonnées, l’identification des textes produits par les grands modèles de langage (LLM) s’avère plus complexe. En réponse, de nombreuses entreprises adoptent des stratégies similaires pour intégrer des identifiants dans leurs productions générées par IA. Après qu’Anthropic a introduit cet été un filigrane invisible dans ses textes générés par IA, OpenAI vient de dévoiler sa propre solution, baptisée textGrain. Le système textGrain fonctionne en modifiant subtilement la manière dont un modèle d’IA choisit ses mots. Normalement, une IA sélectionne chaque mot en fonction de la probabilité qu’il apparaisse dans le contexte donné, avec une légère dose d’aléatoire qui rend les productions plus naturelles ou imprévisibles. Avec textGrain, cet aléatoire n’est plus le seul facteur. Le modèle prend aussi en compte les mots susceptibles d’indiquer qu’un texte a été généré par une IA. Cette déviation dans le choix des mots est conçue pour être imperceptible, afin de garantir que le texte reste cohérent et significatif. OpenAI affirme que cette méthode est plus sophistiquée que celles de ses concurrents et promet des modifications mineures du texte final. Cependant, le système présente certaines limites. Pour une identification précise, le texte doit être suffisamment long : seuls 80 % des textes de 200 jetons (tokens) peuvent être identifiés de manière fiable, tandis que ce taux atteint 95 % pour 400 jetons. De plus, la détection est plus efficace avec des écrits psychologiques ou narratifs qu’avec des contenus techniques ou mathématiques, ce qui restreint le nombre de substitutions possibles. Même des modifications mineures du texte peuvent réduire considérablement l’efficacité du filigrane. Par exemple, remplacer 10 % des mots peut diminuer la précision de détection d’environ 30 points, et changer 25 % des mots peut rendre la détection quasi impossible. Malgré ces défis, OpenAI a décidé de déployer textGrain dans les semaines à venir pour répondre aux exigences de l’Union européenne. Contrairement à Anthropic, qui a lancé son filigrane à l’échelle mondiale, textGrain sera d’abord accessible uniquement aux utilisateurs européens de ChatGPT et Codex. Ce déploiement régional permettra à OpenAI d’évaluer l’impact réel du système à grande échelle. Pour les développeurs utilisant les modèles d’IA via une API, textGrain est déjà disponible sur demande, mais les utilisateurs devront eux-mêmes appliquer le filigrane. OpenAI n’a pas encore rendu public un outil de détection pour textGrain, et seul un nombre limité de chercheurs et d’organisations agréées y auront accès. À l’avenir, l’entreprise pourrait élargir cet accès, bien qu’aucun calendrier n’ait été annoncé. Les LLM utilisent des jetons (tokens) pour traiter le texte, et le nombre de jetons correspond approximativement à 140 mots en français.