A Anthropic agora está marcando o conteúdo que seus modelos Claude produzem. Desde 2 de agosto, a empresa vem tecendo uma marca d'água invisível no texto gerado e anexando rótulos de metadados assinados a arquivos de imagem suportados, em um esforço por mais transparência em torno do conteúdo feito por IA.
Como funciona a marca d'água
A marca d'água de texto é incorporada no nível do modelo, não como uma tag oculta ou peça de metadados. A Anthropic diz que ela viaja com o texto copiado e pode sobreviver a alguma edição, o que a torna mais difícil de remover acidentalmente. A empresa não divulgou os detalhes técnicos completos do mecanismo e ainda não publicou uma ferramenta pública de detecção, embora diga que uma está por vir.
"Uma marca d'água só ajuda a testar se o Claude pode ter produzido ou processado o conteúdo", disse a Anthropic. "Ela não diz nada sobre propriedade ou autoria e não muda os direitos do usuário."
Rótulos C2PA para imagens e arquivos
Para arquivos como imagens PNG, JPG e SVG, o Claude anexa uma credencial de conteúdo: uma pequena nota criptograficamente assinada nos metadados do arquivo dizendo que o arquivo foi feito ou processado com o Claude. O rótulo usa o padrão aberto C2PA, o mesmo sistema usado por fabricantes de câmeras e software de edição de fotos para registrar a origem de uma imagem. Qualquer ferramenta compatível com C2PA pode lê-lo, e o registro assinado torna a adulteração detectável.
Reação de escritores e desenvolvedores
A implementação gerou uma resposta mista. A Anthropic diz que a mudança segue seu compromisso com o código de prática da Comissão Europeia sobre transparência de conteúdo gerado por IA sob a Lei de IA da UE. Alguns escritores e desenvolvedores receberam bem os rótulos de proveniência, mas se opuseram à marca d'água de texto oculta, argumentando que ela altera o trabalho escrito sem o consentimento claro do usuário e que apenas a Anthropic, que detém as chaves secretas, pode verificá-la por enquanto. Reguladores e verificadores de fatos, entretanto, veem as marcações como uma ferramenta útil para rastrear a origem do conteúdo.