En bref
- Les textes produits par Claude seront désormais marqués de façon invisible.
- Cette signature permet de détecter un contenu généré par l’IA, mais présente certaines limites avec les textes courts, traduits ou fortement modifiés.
- Anthropic déploie également un marquage cryptographique pour les images générées par Claude.
Les utilisateurs de Claude ne verront rien à l’écran. Et pourtant, les textes générés par l’IA d’Anthropic vont désormais embarquer une signature invisible, mise en place pour répondre aux nouvelles obligations de transparence de l’Union européenne.
Une signature discrète, mais bien réelle
Chez Anthropic, l’idée n’est pas d’ajouter un logo, une mention apparente ou des caractères cachés. L’entreprise explique qu’elle laisse plutôt un motif dans le texte, lisible seulement par quelqu’un qui possède la bonne clé. Pour le lecteur, rien ne change à l’œil nu. Le texte reste le même en apparence.
Ce choix place Claude dans le cadre des règles européennes sur la transparence des contenus générés par IA. Et Anthropic précise que d’autres acteurs du secteur doivent eux aussi appliquer un marquage comparable.
Comment le système choisit ses mots ?
Le mécanisme repose sur la façon dont un grand modèle de langage écrit, mot après mot. En temps normal, il pioche parmi plusieurs options plausibles selon le contexte. Avec le marquage activé, Claude ne laisse plus ce choix à un tirage aléatoire classique. Une clé guide la sélection.
Anthropic donne un exemple avec les chiffres de pi. Si la clé commence par 2 dans la suite 3.1415926535, le modèle va choisir certains rangs précis dans sa liste de mots possibles, puis continuer selon cette séquence. La méthode adapte l’approche SynthID-Text de Google DeepMind, présentée dans un article publié dans Nature.
L’entreprise assure aussi que ce marquage ne dégrade ni la qualité de sortie, ni la vitesse, et qu’il n’ajoute pas de jetons supplémentaires. Pas de surcoût annoncé non plus.
Ce que le marquage peut détecter, et ce qu’il rate
Anthropic prévoit de proposer une API capable de décoder ce signal et d’indiquer si un bloc de texte a été généré par Claude. En revanche, le système ne peut pas dire si l’IA a tout écrit ou si elle s’est contentée d’éditer un texte existant.
Résultat, un texte simplement corrigé ou retravaillé par Claude pourra lui aussi être marqué. Même chose pour les traductions. À l’inverse, une relecture légère ou un texte trop court peut rendre le marquage difficile à repérer. Et si vous modifiez un peu un texte généré par Claude, cela ne suffira probablement pas à effacer la trace. Pour être certain, il faut le réécrire complètement.
Code, images et déploiement large
Le cas du code reste plus délicat. Anthropic explique qu’il contient en général moins de marquage que d’autres formes de texte, car il demande souvent une sortie exacte. Quand il n’y a pas vraiment de choix possibles pendant la génération, le système ne peut tout simplement pas s’appliquer.
Pour les images, la logique change. Anthropic ajoute une note signée cryptographiquement dans les métadonnées pour indiquer qu’elles ont été produites par Claude. Le déploiement se fait dès le lancement sur toutes les sorties de Claude, car l’entreprise dit ne pas disposer d’un moyen fiable pour activer ces changements seulement selon les régions. Sont concernés les produits utilisant des modèles lancés après le 2 août. Les anciens modèles suivront dans les prochains mois.
