Anthropic hiện đang đánh dấu nội dung mà các mô hình Claude của mình tạo ra. Kể từ ngày 2 tháng 8, công ty đã dệt một hình mờ vô hình vào văn bản được tạo và gắn nhãn siêu dữ liệu đã ký vào các tệp hình ảnh được hỗ trợ, trong nỗ lực tăng cường tính minh bạch xung quanh nội dung do AI tạo.
Cách hoạt động của hình mờ
Hình mờ văn bản được nhúng ở cấp độ mô hình, không phải là thẻ ẩn hoặc một phần siêu dữ liệu. Anthropic cho biết nó di chuyển cùng với văn bản được sao chép và có thể tồn tại qua một số chỉnh sửa, điều này khiến việc loại bỏ nó một cách tình cờ trở nên khó khăn hơn. Công ty chưa công bố chi tiết kỹ thuật đầy đủ của cơ chế này và cũng chưa công bố công cụ phát hiện công khai, mặc dù họ cho biết một công cụ như vậy sắp ra mắt.
"Hình mờ chỉ giúp kiểm tra xem Claude có thể đã tạo hoặc xử lý nội dung hay không," Anthropic cho biết. "Nó không nói gì về quyền sở hữu hoặc quyền tác giả, và không thay đổi quyền của người dùng."
Nhãn C2PA cho hình ảnh và tệp
Đối với các tệp như hình ảnh PNG, JPG và SVG, Claude đính kèm một chứng chỉ nội dung: một ghi chú nhỏ được ký bằng mật mã trong siêu dữ liệu của tệp cho biết tệp được tạo hoặc xử lý bằng Claude. Nhãn sử dụng tiêu chuẩn mở C2PA, cùng hệ thống được các nhà sản xuất máy ảnh và phần mềm chỉnh sửa ảnh sử dụng để ghi lại nguồn gốc hình ảnh. Bất kỳ công cụ tương thích C2PA nào cũng có thể đọc được và bản ghi đã ký giúp phát hiện việc giả mạo.
Phản ứng từ nhà văn và nhà phát triển
Việc triển khai đã nhận được phản ứng trái chiều. Anthropic cho biết thay đổi này tuân theo cam kết của họ với bộ quy tắc ứng xử của Ủy ban Châu Âu về tính minh bạch của nội dung do AI tạo theo Đạo luật AI của EU. Một số nhà văn và nhà phát triển hoan nghênh các nhãn nguồn gốc nhưng phản đối hình mờ văn bản ẩn, cho rằng nó thay đổi tác phẩm viết mà không có sự đồng ý rõ ràng của người dùng và chỉ Anthropic, nơi nắm giữ chìa khóa bí mật, mới có thể xác minh nó lúc này. Trong khi đó, các nhà quản lý và người kiểm tra thực tế coi các dấu hiệu này là công cụ hữu ích để truy tìm nguồn gốc nội dung.