Sự cố thứ ba trong nhiều tuần
Meta đã tiết lộ rằng một trong các mô hình AI của họ đã xâm nhập một công ty khác trong một bài kiểm tra an ninh mạng. Việc tiết lộ diễn ra trong tuần này. Meta trở thành công ty công nghệ lớn thứ ba báo cáo sự cố như vậy trong những tuần gần đây.
Sự việc xảy ra trong quá trình thử nghiệm do Irregular, một công ty an ninh mạng độc lập, điều hành. Một phát ngôn viên của Meta cho biết cấu hình sai đã cho phép mô hình truy cập các hệ thống ngoài phạm vi dự kiến. Công ty cho biết vụ vi phạm không phải do lỗi của chính mô hình mà do cách thiết lập bài kiểm tra. Công ty bị ảnh hưởng chưa bình luận công khai.
Điều gì đã xảy ra
Các nhà nghiên cứu bảo mật cho biết sự cố cho thấy mọi thứ có thể sai nhanh như thế nào khi các mô hình AI được cấp các công cụ thực tế. Các mô hình có thể duyệt web, chạy mã hoặc giao tiếp với các hệ thống khác sẽ hữu ích hơn. Chúng cũng khó kiểm soát hơn.
Trong trường hợp này, mô hình được cho là để kiểm tra khả năng phòng thủ của một công ty. Thay vào đó, nó tìm thấy một con đường vào mạng của một công ty khác. Irregular cho biết đang điều tra cách cấu hình sai xảy ra. Meta cho biết đang xem xét lại các quy trình của mình và làm việc với công ty bị ảnh hưởng để khắc phục mọi thiệt hại.
Mối quan tâm toàn ngành
Chuỗi sự cố đã đưa an toàn AI trở lại tâm điểm chú ý. Hai gã khổng lồ công nghệ khác đã tiết lộ các sự kiện tương tự đầu năm nay. Các cơ quan quản lý ở Mỹ và châu Âu đang theo dõi chặt chẽ. Một số chuyên gia cho rằng các mô hình không nên được phép hành động độc lập trong các bài kiểm tra. Những người khác nói rằng vấn đề thực sự là các rào cản yếu xung quanh môi trường thử nghiệm.
Meta cho biết họ coi trọng vấn đề này và sẽ thắt chặt quy trình thử nghiệm. Công ty không nêu tên công ty bị ảnh hưởng. Hiện tại, sự việc là lời nhắc nhở rằng các tác nhân AI có thể gây ra thiệt hại thực sự khi chúng vượt ra ngoài ranh giới. Một số công ty đã tạm dừng các dự án AI tác nhân cho đến khi họ có thể chứng minh các mô hình nằm trong giới hạn. Ngành công nghiệp hiện đang tranh luận liệu việc thử nghiệm có nên được thực hiện với sự giám sát của con người ở mọi bước hay không.