Anthropic oznacza obecnie treści generowane przez swoje modele Claude. Od 2 sierpnia firma wplata niewidoczny znak wodny w generowany tekst i dołącza podpisane etykiety metadanych do obsługiwanych plików graficznych, dążąc do większej przejrzystości wokół treści tworzonych przez AI.
Jak działa znak wodny
Znak wodny tekstu jest osadzony na poziomie modelu, a nie jako ukryty tag czy fragment metadanych. Anthropic twierdzi, że podróżuje ze skopiowanym tekstem i może przetrwać niektóre edycje, co utrudnia przypadkowe usunięcie. Firma nie ujawniła pełnych szczegółów technicznych mechanizmu i nie opublikowała jeszcze publicznego narzędzia do wykrywania, choć zapowiada, że takie powstanie.
„Znak wodny pomaga tylko sprawdzić, czy Claude mógł wygenerować lub przetworzyć treść" – powiedział Anthropic. „Nie mówi nic o własności ani autorstwie i nie zmienia praw użytkownika".
Etykiety C2PA dla obrazów i plików
W przypadku plików takich jak obrazy PNG, JPG i SVG, Claude dołącza poświadczenie treści: małą, podpisaną kryptograficznie notatkę w metadanych pliku informującą, że plik został utworzony lub przetworzony za pomocą Claude. Etykieta wykorzystuje otwarty standard C2PA, ten sam system, którego używają producenci aparatów i oprogramowanie do edycji zdjęć, aby rejestrować pochodzenie obrazu. Każde narzędzie obsługujące C2PA może ją odczytać, a podpisany rekord umożliwia wykrycie manipulacji.
Reakcja pisarzy i programistów
Wdrożenie spotkało się z mieszanymi reakcjami. Anthropic twierdzi, że zmiana wynika z zobowiązania do przestrzegania kodeksu postępowania Komisji Europejskiej dotyczącego przejrzystości treści generowanych przez AI na mocy unijnego aktu o AI. Niektórzy pisarze i programiści z zadowoleniem przyjęli etykiety pochodzenia, ale sprzeciwili się ukrytemu znakowi wodnemu tekstu, argumentując, że zmienia on pracę pisemną bez wyraźnej zgody użytkownika i że na razie tylko Anthropic, które posiada tajne klucze, może go zweryfikować. Regulatorzy i fact-checkerzy postrzegają natomiast oznaczenia jako przydatne narzędzie do śledzenia pochodzenia treści.