Anthropic marque désormais le contenu produit par ses modèles Claude. Depuis le 2 août, l'entreprise tisse un filigrane invisible dans le texte généré et attache des étiquettes de métadonnées signées aux fichiers image pris en charge, dans un effort pour plus de transparence autour du contenu créé par l'IA.
Comment fonctionne le filigrane
Le filigrane textuel est intégré au niveau du modèle, et non comme une balise cachée ou un morceau de métadonnées. Anthropic affirme qu'il voyage avec le texte copié et peut survivre à certaines modifications, ce qui le rend plus difficile à supprimer accidentellement. L'entreprise n'a pas publié tous les détails techniques du mécanisme, et elle n'a pas encore publié d'outil de détection public, bien qu'elle affirme qu'un tel outil est à venir.
"Un filigrane aide seulement à vérifier si Claude pourrait avoir produit ou traité le contenu", a déclaré Anthropic. "Il ne dit rien sur la propriété ou la paternité, et ne change pas les droits de l'utilisateur."
Étiquettes C2PA pour les images et fichiers
Pour les fichiers tels que les images PNG, JPG et SVG, Claude attache un justificatif de contenu : une petite note signée cryptographiquement dans les métadonnées du fichier indiquant que le fichier a été créé ou traité avec Claude. L'étiquette utilise la norme ouverte C2PA, le même système utilisé par les fabricants d'appareils photo et les logiciels de retouche photo pour enregistrer l'origine d'une image. Tout outil compatible C2PA peut la lire, et l'enregistrement signé rend la falsification détectable.
Réaction des écrivains et développeurs
Le déploiement a suscité des réactions mitigées. Anthropic affirme que ce changement suit son engagement envers le code de conduite de la Commission européenne sur la transparence du contenu généré par l'IA en vertu de la loi européenne sur l'IA. Certains écrivains et développeurs ont accueilli favorablement les étiquettes de provenance mais ont objecté au filigrane textuel caché, arguant qu'il modifie le travail écrit sans le consentement clair de l'utilisateur et que seul Anthropic, qui détient les clés secrètes, peut le vérifier pour l'instant. Les régulateurs et les vérificateurs de faits, quant à eux, considèrent les marquages comme un outil utile pour tracer l'origine du contenu.