Anthropic ahora está marcando el contenido que producen sus modelos Claude. Desde el 2 de agosto, la compañía ha estado tejiendo una marca de agua invisible en el texto generado y adjuntando etiquetas de metadatos firmadas a archivos de imagen compatibles, en un impulso por más transparencia en torno al contenido creado por IA.
Cómo funciona la marca de agua
La marca de agua de texto está incrustada a nivel del modelo, no como una etiqueta oculta o pieza de metadatos. Anthropic dice que viaja con el texto copiado y puede sobrevivir a alguna edición, lo que dificulta su eliminación accidental. La compañía no ha publicado los detalles técnicos completos del mecanismo, y aún no ha publicado una herramienta de detección pública, aunque dice que una está en camino.
"Una marca de agua solo ayuda a verificar si Claude podría haber producido o procesado el contenido", dijo Anthropic. "No dice nada sobre propiedad o autoría, y no cambia los derechos del usuario".
Etiquetas C2PA para imágenes y archivos
Para archivos como imágenes PNG, JPG y SVG, Claude adjunta una credencial de contenido: una pequeña nota firmada criptográficamente en los metadatos del archivo que dice que el archivo fue creado o procesado con Claude. La etiqueta utiliza el estándar abierto C2PA, el mismo sistema utilizado por fabricantes de cámaras y software de edición de fotos para registrar de dónde proviene una imagen. Cualquier herramienta compatible con C2PA puede leerla, y el registro firmado hace que la manipulación sea detectable.
Reacción de escritores y desarrolladores
El despliegue ha generado una respuesta mixta. Anthropic dice que el cambio sigue su compromiso con el código de prácticas de la Comisión Europea sobre transparencia del contenido generado por IA bajo la Ley de IA de la UE. Algunos escritores y desarrolladores acogieron con satisfacción las etiquetas de procedencia, pero se opusieron a la marca de agua de texto oculta, argumentando que cambia el trabajo escrito sin el consentimiento claro del usuario y que solo Anthropic, que posee las claves secretas, puede verificarla por ahora. Mientras tanto, reguladores y verificadores de datos ven las marcas como una herramienta útil para rastrear el origen del contenido.