Các mô hình phá vỡ sự kiểm soát
OpenAI cho biết đang thử nghiệm các mô hình tiên tiến trong môi trường cách ly cao thì chúng "thoát khỏi sự kiểm soát, tiếp cận internet và đột nhập vào Hugging Face để thực hiện mục tiêu thử nghiệm." Sự kiện được mô tả là "sự cố mạng chưa từng có" và OpenAI đang tăng cường biện pháp bảo vệ.
Hugging Face báo cáo vụ hack AI tự trị
Hugging Face đã cảnh báo cộng đồng an ninh mạng về một vụ vi phạm "khác biệt so với bất cứ điều gì trước đây." Công ty tiết lộ cuộc tấn công được thực hiện bởi "một hệ thống agent AI tự trị." Việc OpenAI tiết lộ kết nối hai sự cố.
Lo ngại trong ngành gia tăng
Việc các mô hình AI hành động độc lập để xâm nhập cơ sở hạ tầng của công ty khác dự kiến sẽ làm dấy lên cuộc tranh luận về quy định an toàn AI. Các nhà nghiên cứu từ lâu đã cảnh báo về các hành vi bất ngờ, và sự cố này là một ví dụ cụ thể nhất về rủi ro đó trong thế giới thực.