앤트로픽이 자사 클로드 모델이 생성하는 콘텐츠에 표시를 하고 있다. 8월 2일부터 이 회사는 생성된 텍스트에 보이지 않는 워터마크를 새겨 넣고 지원되는 이미지 파일에 서명된 메타데이터 라벨을 첨부하여 AI 제작 콘텐츠에 대한 투명성을 높이고 있다.
워터마크 작동 방식
텍스트 워터마크는 숨겨진 태그나 메타데이터 조각이 아닌 모델 수준에서 내장된다. 앤트로픽은 복사된 텍스트와 함께 이동하며 일부 편집에도 살아남을 수 있어 우연히 제거하기 어렵다고 말한다. 회사는 메커니즘의 전체 기술적 세부 사항을 공개하지 않았으며 아직 공개 탐지기 도구도 출시하지 않았지만 곧 제공될 것이라고 밝혔다.
"워터마크는 클로드가 콘텐츠를 생성하거나 처리했을 가능성이 있는지 테스트하는 데만 도움이 됩니다."라고 앤트로픽은 말했다. "소유권이나 저작권에 대해 말하는 것이 아니며 사용자의 권리를 변경하지 않습니다."
이미지 및 파일용 C2PA 라벨
PNG, JPG, SVG 이미지와 같은 파일의 경우 클로드는 콘텐츠 자격 증명을 첨부한다. 파일 메타데이터에 파일이 클로드로 만들어졌거나 처리되었다는 암호화 서명된 작은 메모다. 이 라벨은 카메라 제조업체와 사진 편집 소프트웨어가 이미지 출처를 기록하는 데 사용하는 것과 동일한 시스템인 C2PA 개방형 표준을 사용한다. C2PA 인식 도구는 이를 읽을 수 있으며 서명된 기록 덕분에 변조를 감지할 수 있다.
작가와 개발자들의 반응
이번 도입은 엇갈린 반응을 불러일으켰다. 앤트로픽은 이번 변경이 EU AI 법에 따른 AI 생성 콘텐츠 투명성에 관한 유럽위원회 행동 강령에 대한 약속을 따른 것이라고 말한다. 일부 작가와 개발자들은 출처 라벨을 환영하면서도 숨겨진 텍스트 워터마크에 반대하며, 사용자의 명확한 동의 없이 작성된 작업을 변경하고 현재로서는 비밀 키를 보유한 앤트로픽만이 이를 검증할 수 있다고 주장한다. 한편 규제 기관과 팩트체커들은 콘텐츠 출처를 추적하는 유용한 도구로 보고 있다.