L’entreprise Anthropic a détaillé le fonctionnement de la nouvelle méthode d’identification de ses textes générés par intelligence artificielle, une fonctionnalité qui avait suscité des débats.
La société avait annoncé la semaine dernière son intention d’intégrer une marque d’eau invisible dans les productions de son modèle Claude. L’objectif est de permettre à un logiciel de vérification de détecter qu’un texte provient d’une IA. Le détail technique du procédé était jusqu’ici inconnu.
Cette initiative répond à de nouvelles réglementations européennes, mais Anthropic a choisi de la déployer mondialement. L’entreprise avance que ce système sert la transparence, car il permet de connaître l’origine d’un contenu.
L’annonce initiale avait provoqué des critiques. Certains utilisateurs ont estimé que cela pénalisait injustement les personnes qui s’appuient sur l’IA pour écrire. D’autres ont évoqué des risques de contournement, la possibilité d’accusations erronées contre des utilisateurs n’ayant fait que relire leur texte avec Claude, et une dégradation potentielle de la qualité des réponses.
L’entreprise a maintenant expliqué son système. Elle réaffirme que cette marque d’eau n’affecte pas la qualité ou le fond des réponses de Claude, et qu’elle reste imperceptible pour le lecteur.
Concrètement, le mécanisme privilégie certains mots plutôt que d’autres de manière statistique. Cette préférence n’est pas censée être remarquée à la lecture, mais elle peut être détectée par un logiciel spécialisé.
Prenons l’exemple de la phrase « La météo aujourd’hui était froide et… ». Le mot suivant pourrait être « nuageux » ou « gris ». Un lecteur ne verrait aucune différence notable et ignorerait même qu’un choix a été opéré. Pourtant, cette sélection précise fait partie du schéma que le logiciel de contrôle recherche.
« La marque d’eau exploite des choix sans grande importance, qui se répètent de nombreuses fois dans un texte généré, pour inscrire un motif dans les réponses de Claude », a écrit Anthropic. « Ce motif est indétectable pour le lecteur, mais il est repérable par toute personne qui possède la clé de décodage. »
« Quand la marque d’eau est active, les choix restent aléatoires, mais la source de l’aléatoire change. Au lieu d’utiliser un générateur de nombres arbitraire pour choisir le mot suivant, le système utilise une clé et les quelques mots précédents. Les mots que Claude choisit sont donc toujours aléatoires, mais on peut vérifier la séquence pour voir si elle correspond aux choix que Claude ferait avec cette clé. »
Si un nombre suffisant de ces choix est présent, le logiciel peut les identifier et confirmer que le texte a été produit par Claude.
Ce système s’apparente à SynthID de Google, une influence que Anthropic reconnaît ouvertement. Cet outil fonctionne de manière similaire et a été présenté pour la première fois dans un article de la revue Nature en 2024, bien qu’il s’inspire de travaux antérieurs.
Anthropic a aussi répondu aux inquiétudes concernant des accusations abusives contre des personnes n’ayant utilisé l’IA que pour corriger leur propre travail. La société précise que la marque d’eau « ne s’applique qu’aux mots que Claude choisit ». Ainsi, si un texte n’a subi qu’une « légère édition », trop peu de mots seront modifiés pour que la signature soit détectable.
« Plus Claude écrit, plus il doit prendre de décisions, et plus il y a d’espace pour une marque d’eau », explique-t-elle.
Cependant, ces explications et les tentatives pour apaiser les critiques n’ont pas calmé tous les esprits. Le commentateur technologique John Gruber a par exemple estimé que ce système « altérerait et corromprait » la production de Claude.
Dans un long article sur son blog, il a jugé « scandaleuse » l’idée que des considérations autres que les besoins de l’utilisateur puissent influencer la génération d’un texte. Son message, virulent, affirmait que cette fonctionnalité rendrait l’outil « moins bon » et contenait des propos très hostiles à l’égard d’Anthropic.
L’entreprise a par ailleurs souligné que Claude ne serait pas le seul système d’IA à intégrer ce type de marquage, les réglementations de l’Union européenne concernant tous les fournisseurs. Elle note toutefois que ces règles n’imposent pas un déploiement mondial, un choix qu’elle a fait de son propre chef.