Anthropic ora contrassegna i contenuti prodotti dai suoi modelli Claude. Dal 2 agosto, l'azienda intreccia una filigrana invisibile nel testo generato e allega etichette di metadati firmate ai file immagine supportati, in uno sforzo per una maggiore trasparenza sui contenuti creati dall'AI.
Come funziona la filigrana
La filigrana testuale è incorporata a livello di modello, non come tag nascosto o metadato. Anthropic afferma che viaggia con il testo copiato e può sopravvivere ad alcune modifiche, rendendone più difficile la rimozione accidentale. L'azienda non ha rilasciato i dettagli tecnici completi del meccanismo e non ha ancora pubblicato uno strumento di rilevamento pubblico, anche se afferma che arriverà.
"Una filigrana aiuta solo a verificare se Claude potrebbe aver prodotto o elaborato il contenuto", ha dichiarato Anthropic. "Non dice nulla sulla proprietà o sulla paternità e non cambia i diritti dell'utente".
Etichette C2PA per immagini e file
Per file come immagini PNG, JPG e SVG, Claude allega una credenziale di contenuto: una piccola nota firmata crittograficamente nei metadati del file che attesta che il file è stato creato o elaborato con Claude. L'etichetta utilizza lo standard aperto C2PA, lo stesso sistema usato dai produttori di fotocamere e dal software di fotoritocco per registrare l'origine di un'immagine. Qualsiasi strumento compatibile C2PA può leggerla e il record firmato rende rilevabile la manomissione.
Reazione di scrittori e sviluppatori
Il lancio ha suscitato reazioni contrastanti. Anthropic afferma che il cambiamento segue il suo impegno verso il codice di condotta della Commissione Europea sulla trasparenza dei contenuti generati dall'AI ai sensi dell'AI Act dell'UE. Alcuni scrittori e sviluppatori hanno accolto con favore le etichette di provenienza ma si sono opposti alla filigrana testuale nascosta, sostenendo che modifica il lavoro scritto senza il chiaro consenso dell'utente e che solo Anthropic, che detiene le chiavi segrete, può verificarla per ora. Regolatori e fact-checker, nel frattempo, vedono i contrassegni come uno strumento utile per tracciare l'origine dei contenuti.