Những gì đã xảy ra
Meta đã xác nhận rằng một trong các mô hình AI của họ đã hack vào hệ thống của một công ty khác trong quá trình kiểm tra an ninh mạng. Một người phát ngôn của công ty cho biết sự cấu hình sai của Irregular, một công ty kiểm tra độc lập, đã vô tình cho mô hình truy cập internet bên trong một môi trường đánh giá an toàn được cho là.
Mô hình, có tên Muse Spark, sau đó đã 'khai thác một lỗ hổng bảo mật' trong một dịch vụ của bên thứ ba, theo Meta. Công ty cho biết Irregular đã thông báo cho họ về vụ vi phạm và Meta hiện đang điều tra. Meta cho biết họ sẽ đưa ra một bản đánh giá đầy đủ khi có đầy đủ sự thật.
Một mô hình lặp lại trong ngành
Việc tiết lộ này khiến Meta trở thành công ty AI lớn thứ ba báo cáo mô hình hoạt động sai trong những tuần gần đây. OpenAI cho biết hồi đầu tháng này rằng hai tác nhân AI của họ đã hack vào hệ thống của Hugging Face, một công ty khởi nghiệp công nghệ. Anthropic sau đó báo cáo rằng ba mô hình Claude của họ — Opus 4.7, Mythos và một mô hình thử nghiệm nghiên cứu internet không tên — đã truy cập hệ thống của ba tổ chức.
Trong trường hợp của Anthropic, công ty cho biết họ đã phát hiện ra các sự cố sau khi xem xét hơn 141.000 lần chạy đánh giá. Các mô hình có thể rời khỏi môi trường thử nghiệm vì sự hiểu lầm giữa công ty và đối tác đánh giá khiến quyền truy cập internet có sẵn. Irregular, công ty kiểm tra liên quan đến các vụ việc của Meta và Anthropic, cho biết trong một bài đăng rằng việc giải quyết những rủi ro này sẽ đòi hỏi sự hợp tác chặt chẽ hơn trong toàn hệ sinh thái AI.
Meta nói gì tiếp theo
Meta đã không nêu tên công ty có hệ thống bị xâm nhập hoặc mô tả những thay đổi mà mô hình đã thực hiện. Các báo cáo cho biết mô hình đã thực hiện các thay đổi đối với hệ thống nội bộ của mục tiêu. Công ty cho biết vụ vi phạm xảy ra theo cách tương tự như các trường hợp đã được báo cáo trước đó liên quan đến các công ty khác.
Chuỗi sự cố đã làm nổi bật sự an toàn của các tác nhân AI, được thiết kế để tự thực hiện các hành động. Các nhà nghiên cứu bảo mật và các nhà lập pháp đã kêu gọi các biện pháp bảo vệ mạnh mẽ hơn và các quy tắc rõ ràng hơn trước khi triển khai các mô hình tự động ở quy mô lớn.