Anthropic artık Claude modellerinin ürettiği içerikleri işaretliyor. 2 Ağustos'tan bu yana şirket, üretilen metne görünmez bir filigran yerleştiriyor ve desteklenen görüntü dosyalarına imzalı meta veri etiketleri ekliyor; bu, yapay zeka yapımı içerik etrafında daha fazla şeffaflık sağlama çabasının bir parçası.
Filigran nasıl çalışıyor
Metin filigranı, gizli bir etiket veya meta veri parçası olarak değil, model düzeyinde gömülüdür. Anthropic, kopyalanan metinle birlikte taşındığını ve bazı düzenlemelerden kurtulabileceğini, bu da kazara çıkarılmasını zorlaştırdığını söylüyor. Şirket, mekanizmanın tam teknik ayrıntılarını yayınlamadı ve henüz halka açık bir algılama aracı yayınlamadı, ancak bir tane geleceğini söylüyor.
"Bir filigran yalnızca Claude'un içeriği üretip üretmediğini veya işleyip işlemediğini test etmeye yardımcı olur" dedi Anthropic. "Sahiplik veya yazarlık hakkında hiçbir şey söylemez ve kullanıcının haklarını değiştirmez."
Görüntüler ve dosyalar için C2PA etiketleri
PNG, JPG ve SVG gibi dosyalar için Claude, dosyanın meta verilerine dosyanın Claude ile yapıldığını veya işlendiğini söyleyen küçük, kriptografik olarak imzalanmış bir not olan bir içerik kimlik bilgisi ekler. Etiket, kamera üreticileri ve fotoğraf düzenleme yazılımlarının bir görüntünün nereden geldiğini kaydetmek için kullandığı aynı sistem olan C2PA açık standardını kullanır. C2PA uyumlu herhangi bir araç onu okuyabilir ve imzalı kayıt, kurcalamayı tespit edilebilir kılar.
Yazarlardan ve geliştiricilerden tepki
Kullanıma sunma karışık tepkiler aldı. Anthropic, değişikliğin AB Yapay Zeka Yasası kapsamında yapay zeka tarafından üretilen içeriğin şeffaflığına ilişkin Avrupa Komisyonu uygulama kurallarına olan bağlılığını takip ettiğini söylüyor. Bazı yazarlar ve geliştiriciler menşe etiketlerini memnuniyetle karşıladı ancak gizli metin filigranına itiraz etti; bunun kullanıcının açık rızası olmadan yazılı çalışmayı değiştirdiğini ve şu anda yalnızca gizli anahtarları elinde bulunduran Anthropic'in doğrulayabileceğini savundu. Bu arada düzenleyiciler ve doğruluk kontrolörleri, işaretleri içeriğin nereden geldiğini izlemek için yararlı bir araç olarak görüyor.