Mô hình AI bị coi là quá nguy hiểm giờ có sẵn
Anthropic phát hành Claude Fable 5 ra công chúng hôm thứ Ba, một phiên bản của mô hình AI Claude Mythos mà công ty trước đây mô tả là quá mạnh để phát hành công khai. Mô hình gây ra lo ngại nghiêm trọng giữa các nhà lãnh đạo công nghệ, tài chính và chính phủ khi được xem trước riêng vào tháng Tư. Anthropic thừa nhận việc phát hành một mô hình mạnh mẽ như vậy đi kèm rủi ro, nhưng nói rằng các biện pháp bảo vệ và giới hạn người dùng đã được áp dụng.
10.000 lỗ hổng bảo mật do người thử nghiệm tìm thấy
Khoảng 150 nhóm được truy cập sớm vào Mythos đã báo cáo phát hiện hơn 10.000 lỗ hổng bảo mật nghiêm trọng trong hệ thống của họ. Anthropic nói cả Fable và Mythos có thể tự động làm việc theo lệnh con người trong thời gian dài hơn bất kỳ mô hình Claude trước đây. Công ty có kế hoạch mở rộng truy cập vào toàn bộ Mythos 5 thông qua chương trình truy cập tin cậy rộng hơn sớm.
Anthropic gần định giá 1 nghìn tỷ USD, IPO dự kiến
Anthropic dự kiến sớm trở thành công ty đại chúng, với định giá tư nhân tiến gần 1 nghìn tỷ USD. Đồng sáng lập Jack Clark gần đây nói với BBC Newsnight rằng khả năng AI đang mở rộng quá nhanh đến mức cần có cách để công chúng làm chậm tiến bộ công nghệ. Hiện tại, ông nói, ngành công nghiệp AI có chân ga nhưng không có phanh.