Technology

Anthropic tilføjer usynlige vandmærker til Claude-tekst og signerede etiketter til AI-filer

5 views

Sådan fungerer vandmærket

Tekstvandmærket er indlejret på modelniveau, ikke som et skjult tag eller et stykke metadata. Anthropic siger, at det følger med kopieret tekst og kan overleve noget redigering, hvilket gør det sværere at fjerne ved et uheld. Virksomheden har ikke offentliggjort de fulde tekniske detaljer om mekanismen og har endnu ikke udgivet et offentligt detektorværktøj, selvom det siger, at et er på vej.

C2PA-etiketter til billeder og filer

For filer som PNG-, JPG- og SVG-billeder vedhæfter Claude et indholdslegitimationsbevis: en lille, kryptografisk signeret note i filens metadata, der siger, at filen er lavet eller behandlet med Claude. Etiketten bruger C2PA-åbne standard, det samme system, som kameraproducenter og fotoredigeringssoftware bruger til at registrere, hvor et billede kommer fra.

Reaktion fra forfattere og udviklere

Udrulningen har fået en blandet modtagelse. Nogle forfattere og udviklere hilste oprindelsesetiketterne velkommen, men protesterede mod det skjulte tekstvandmærke og argumenterede for, at det ændrer skriftligt arbejde uden brugerens klare samtykke, og at kun Anthropic, som har de hemmelige nøgler, kan verificere det for nu. Regulatorer og faktatjekkere ser derimod markeringerne som et nyttigt værktøj til at spore, hvor indhold kommer fra.

Source: Anthropic