Anthropic merkitsee nyt Claude-malliensa tuottaman sisällön. Elokuun 2. päivästä lähtien yritys on kutonut näkymättömän vesileiman tuotettuun tekstiin ja liittänyt allekirjoitettuja metatietotunnisteita tuettuihin kuvatiedostoihin edistääkseen läpinäkyvyyttä AI:n luoman sisällön ympärillä.
Näin vesileima toimii
Tekstin vesileima on upotettu mallitasolle, ei piilotettuna tunnisteena tai metatietona. Anthropic sanoo, että se kulkee kopioidun tekstin mukana ja voi säilyä osan muokkauksesta, mikä vaikeuttaa sen poistamista vahingossa. Yritys ei ole julkaissut mekanismin täydellisiä teknisiä yksityiskohtia, eikä se ole vielä julkaissut julkista tunnistustyökalua, vaikka se sanoo sellaisen olevan tulossa.
"Vesileima auttaa vain testaamaan, onko Claude mahdollisesti tuottanut tai käsitellyt sisällön", Anthropic sanoi. "Se ei kerro omistajuudesta tai tekijyydestä eikä muuta käyttäjän oikeuksia."
C2PA-tunnisteet kuville ja tiedostoille
Tiedostoille, kuten PNG-, JPG- ja SVG-kuville, Claude liittää sisältötodistuksen: pienen, kryptografisesti allekirjoitetun huomautuksen tiedoston metatietoihin, joka kertoo tiedoston luodun tai käsitellyn Claudella. Tunniste käyttää C2PA-avointa standardia, samaa järjestelmää, jota kameravalmistajat ja kuvankäsittelyohjelmistot käyttävät tallentaakseen kuvan alkuperän. Mikä tahansa C2PA-yhteensopiva työkalu voi lukea sen, ja allekirjoitettu tietue tekee peukaloinnin havaittavaksi.
Kirjoittajien ja kehittäjien reaktiot
Käyttöönotto on herättänyt ristiriitaisia reaktioita. Anthropic sanoo muutoksen noudattavan sen sitoutumista Euroopan komission käytännesääntöihin AI:n tuottaman sisällön läpinäkyvyydestä EU:n AI-säädöksen mukaisesti. Jotkut kirjoittajat ja kehittäjät toivottivat alkuperätunnisteet tervetulleiksi, mutta vastustivat piilotettua tekstivesileimaa väittäen, että se muuttaa kirjoitettua työtä ilman käyttäjän selkeää suostumusta ja että vain Anthropic, joka hallitsee salaisia avaimia, voi toistaiseksi vahvistaa sen. Sääntelijät ja faktantarkistajat puolestaan näkevät merkinnät hyödyllisenä työkaluna sisällön alkuperän jäljittämiseen.