Anthropic теперь маркирует контент, создаваемый моделями Claude. С 2 августа компания вплетает невидимый водяной знак в генерируемый текст и прикрепляет подписанные метаданные к поддерживаемым файлам изображений в рамках стремления к большей прозрачности в отношении контента, созданного ИИ.
Как работает водяной знак
Текстовый водяной знак встроен на уровне модели, а не как скрытый тег или часть метаданных. Anthropic утверждает, что он перемещается вместе со скопированным текстом и может пережить некоторое редактирование, что затрудняет его случайное удаление. Компания не раскрыла полные технические детали механизма и еще не опубликовала публичный инструмент для обнаружения, хотя говорит, что он появится.
«Водяной знак помогает только проверить, мог ли Claude создать или обработать контент», — заявили в Anthropic. «Он ничего не говорит о праве собственности или авторстве и не меняет права пользователя».
Метки C2PA для изображений и файлов
Для таких файлов, как изображения PNG, JPG и SVG, Claude прикрепляет удостоверение контента: небольшую криптографически подписанную заметку в метаданных файла, указывающую, что файл был создан или обработан с помощью Claude. Метка использует открытый стандарт C2PA, ту же систему, которую используют производители камер и программное обеспечение для редактирования фотографий для записи происхождения изображения. Любой инструмент, поддерживающий C2PA, может прочитать ее, а подписанная запись делает подделку обнаруживаемой.
Реакция писателей и разработчиков
Внедрение вызвало неоднозначную реакцию. Anthropic заявляет, что изменение следует ее обязательствам перед кодексом практики Европейской комиссии по прозрачности контента, созданного ИИ, в рамках Закона ЕС об ИИ. Некоторые писатели и разработчики приветствовали метки происхождения, но возражали против скрытого текстового водяного знака, утверждая, что он меняет письменную работу без явного согласия пользователя и что только Anthropic, владеющая секретными ключами, может проверить его в настоящее время. Регуляторы и фактчекеры, тем временем, видят в маркировке полезный инструмент для отслеживания происхождения контента.