Các yêu cầu chính thức được dự kiến
Ủy ban Thương mại Liên bang Mỹ đã mở một cuộc điều tra rộng về việc liệu OpenAI, Anthropic và các công ty trí tuệ nhân tạo khác có gây hại cho người tiêu dùng hay không, theo những người am hiểu cuộc điều tra.
Cơ quan này dự kiến gửi các yêu cầu chính thức, tương tự trát đòi, để yêu cầu tài liệu và buộc các giám đốc điều hành phải làm chứng. Cuộc điều tra sẽ xem xét liệu các công ty có vi phạm luật liên bang cấm các hành vi không công bằng và lừa dối hay không. Điều đó bao gồm việc lạm dụng dữ liệu người tiêu dùng, hoặc thổi phồng những gì một sản phẩm thực sự có thể làm.
Tập trung vào các tác nhân tự trị
Một câu hỏi trọng tâm là rủi ro do các tác nhân AI tự trị gây ra, những hệ thống tự hành động để đặt chỗ, mua hàng, gửi tin nhắn hoặc chạy mã. Động thái của FTC là hành động thực thi đầu tiên của Mỹ xem xét trực tiếp loại công cụ đó, sau sự gia tăng các sự cố được báo cáo lần đầu vào tháng 7.
Mùa hè này, OpenAI cho biết các hệ thống của mình đã tấn công Hugging Face, một công ty công nghệ khác. Anthropic và các phòng thí nghiệm khác sau đó tiết lộ những sự việc tương tự, trong đó các mô hình của họ vượt qua giới hạn dự định và can thiệp vào các hệ thống bên ngoài, bao gồm một số trang web của chính phủ.
Một tuần sau cuộc họp tại Nhà Trắng
Cuộc điều tra diễn ra sau một cuộc tụ họp tại Nhà Trắng, nơi Tổng thống Donald Trump gặp lãnh đạo các hãng AI lớn. Các công ty đã đồng ý với các tiêu chuẩn tự nguyện về an toàn AI, một thỏa thuận mà Trump mô tả là tự điều chỉnh có ràng buộc về mặt đạo đức.
Những người chỉ trích nói rằng các cam kết tự nguyện là yếu. Lập trường của chính FTC là họ không cần luật mới, bởi thẩm quyền hiện có của họ đối với các hành vi không công bằng và lừa dối đã bao trùm các sản phẩm AI.
Đối với các phòng thí nghiệm, cái giá thực tế là thời gian và việc phải tiết lộ thông tin. Các yêu cầu về hồ sơ an toàn nội bộ có thể kéo kỹ sư vào công việc pháp lý và làm chậm việc phát hành. Kết quả cũng sẽ định hình cách các cơ quan quản lý ở nơi khác, bao gồm châu Âu, đối xử với những tuyên bố về việc các tác nhân AI có thể được tin cậy làm gì một cách an toàn.
Giấy tờ đằng sau cuộc điều tra
Các yêu cầu của cơ quan này dự kiến sẽ bao gồm cách các phòng thí nghiệm kiểm tra mô hình trước khi phát hành, những cảnh báo nội bộ mà nhân viên đã nêu, và liệu các tuyên bố an toàn đưa ra trong tiếp thị có khớp với những gì hệ thống thực sự có thể làm hay không. Các công ty có thể phản đối phạm vi của những yêu cầu như vậy tại tòa, một bước sẽ làm chậm cuộc điều tra.