ChatGPT va marquer ses textes d'un filigrane invisible – 07/10

## ChatGPT va marquer ses textes d'un filigrane invisible Selon les informations rapportées par BFM Business dans l'émission Tech & Co du mercredi 7 octobre, ChatGPT s'apprêterait à intégrer un dispositif de filigrane invisible dans les textes qu'il génère. L'annonce, relayée par François Sorel et ses invités — Jérôme Marin, fondateur de Cafetech.fr, Frédéric Simottel, journaliste BFM Business, et Salime Nassur, fondateur de Mars —, marque une étape sensible dans l'encadrement des contenus produits par intelligence artificielle. L'objectif affiché serait de permettre l'identification de l'origine d'un texte sans altérer sa lisibilité pour l'utilisateur final. ## Un marquage invisible, mais détectable Le principe du filigrane numérique repose sur l'insertion de motifs statistiques discrets dans le flux de mots générés. Concrètement, le modèle privilégierait certaines tournures ou associations lexicales selon une clé secrète, sans que le lecteur humain puisse s'en apercevoir. Seul un outil de détection disposant de cette clé pourrait confirmer qu'un texte provient bien de ChatGPT. Cette approche se distingue des mentions explicites en bas de page, puisqu'elle rend le marquage difficile à supprimer par un simple copier-coller. Elle vise ainsi à répondre aux critiques croissantes sur la traçabilité des contenus générés automatiquement, dans un contexte où la désinformation et les faux contenus circulent massivement en ligne. ## Un enjeu de confiance et de responsabilité Pour les entreprises et les médias, ce dispositif pourrait faciliter la vérification de l'origine des textes reçus. La question de la responsabilité éditoriale reste toutefois entière : un filigrane prouve l'usage d'un outil, mais ne dit rien de la véracité du contenu produit. Les invités de Tech & Co ont également évoqué d'autres actualités technologiques du jour, notamment le projet de maison connectée d'Apple avec LG et la nouvelle génération de PC intégrant des fonctions d'IA dévoilée par Microsoft. Ces annonces illustrent une même tendance : l'intelligence artificielle s'installe progressivement dans les produits grand public, ce qui rend d'autant plus nécessaire l'encadrement de sa traçabilité. ## Des limites techniques encore débattues Le filigrane invisible n'est pas une solution infaillible. Des chercheurs ont déjà montré que certains marquages pouvaient être contournés par des reformulations, des traductions ou des modifications mineures du texte. La robustesse du dispositif dépendra donc de sa capacité à résister à ces manipulations. Par ailleurs, la question de la standardisation reste posée : sans un format commun adopté par l'ensemble des acteurs de l'IA, la détection pourrait rester fragmentée. Les autorités de régulation européennes, qui discutent déjà de l'encadrement des systèmes d'IA génératifs, pourraient s'emparer du sujet dans les mois à venir. ## Une étape vers plus de transparence L'initiative de ChatGPT, si elle se confirme, constituerait une avancée vers davantage de transparence dans l'écosystème des IA génératives. Elle ne résoudra pas à elle seule les défis posés par la diffusion de contenus automatisés, mais elle pourrait poser un premier jalon. Reste à savoir si les utilisateurs et les plateformes sauront s'approprier ces outils de détection, et si d'autres acteurs suivront la même voie.