Anthropic现在正在为其Claude模型生成的内容添加标记。自8月2日起，该公司一直在生成的文本中嵌入隐形水印，并为支持的图像文件附加签名元数据标签，以推动AI生成内容的透明度。
水印的工作原理
文本水印嵌入在模型层面，而非隐藏标签或元数据。Anthropic表示，它会随复制的文本一起传播，并可能在某些编辑后仍然存在，这使得意外去除更加困难。该公司尚未公布该机制的完整技术细节，也尚未发布公开检测工具，但表示即将推出。
“水印只能帮助检测Claude是否可能生成或处理了内容，”Anthropic表示。“它不涉及所有权或作者身份，也不会改变用户的权利。”
图像和文件的C2PA标签
对于PNG、JPG和SVG等图像文件，Claude会附加内容凭证：文件元数据中的一个小型加密签名注释，说明该文件是由Claude制作或处理的。该标签使用C2PA开放标准，与相机厂商和照片编辑软件记录图像来源所用的系统相同。任何支持C2PA的工具都可以读取它，签名记录使篡改可被检测。
作家和开发者的反应
这一推出引发了不同的反应。Anthropic表示，这一变化遵循了其对欧盟委员会关于欧盟AI法案下AI生成内容透明度行为准则的承诺。一些作家和开发者欢迎来源标签，但反对隐藏的文本水印，认为它在未经用户明确同意的情况下改变了书面作品，而且目前只有掌握密钥的Anthropic能够验证。与此同时，监管机构和事实核查人员认为这些标记是追踪内容来源的有用工具。