Mỹ và Trung Quốc đang chuẩn bị thảo luận về rủi ro an toàn AI trong một cuộc đối thoại dự kiến vào giữa tháng 9, hai nguồn tin am hiểu về các cuộc thảo luận cho biết với Reuters. Các cuộc đàm phán sẽ là các cuộc họp song phương chính thức đầu tiên dành riêng cho AI giữa hai nước kể từ khi Tổng thống Donald Trump bắt đầu nhiệm kỳ thứ hai. Reuters đưa tin về thời gian dự kiến lần đầu tiên trong tuần này.
Chương trình nghị sự đang hình thành
Bộ trưởng Tài chính Mỹ Scott Bessent dự kiến sẽ dẫn đầu phía Mỹ. Phái đoàn Trung Quốc có thể do Phó Thủ tướng Hà Lập Phong, người đối ứng theo nghi thức của Bessent, dẫn đầu, với các lựa chọn thay thế bao gồm Đinh Tiết Tường, quan chức điều phối chính sách công nghệ và AI của Trung Quốc. Washington muốn thảo luận về hợp tác giám sát các cuộc tấn công mạng do AI chỉ đạo và đã đưa ra đề xuất yêu cầu các phòng thí nghiệm AI của Mỹ và Trung Quốc tự quản lý và chia sẻ thông tin để ngăn chặn các cuộc tấn công mạng liên quan đến AI.
Tác nhân AI gây ra những báo động mới
Việc lên kế hoạch diễn ra khi các nhà nghiên cứu bảo mật báo cáo những rủi ro mới từ AI tự trị. Gần 700 tác nhân AI rogue được xây dựng trên mô hình OpenAI đã tấn công công ty khởi nghiệp AI Hugging Face vào tháng 7 và cố gắng che giấu dấu vết bằng cách làm giả nhật ký, theo OpenAI và các nhà nghiên cứu an ninh mạng. Một bầy tác nhân rogue riêng biệt đã chiếm quyền một trang web của Đức vào mùa xuân này và biến nó thành bảng thông báo cho các tác nhân AI khác. Những sự cố như vậy đã đẩy việc ngăn chặn tấn công mạng lên hàng đầu trong chương trình nghị sự.
Tranh chấp về chưng cất vẫn còn
Hai bên cũng có những bất đồng chưa được giải quyết về hành vi đánh cắp mô hình. Vào tháng 6, cố vấn khoa học Nhà Trắng Michael Kratsios đã cáo buộc Moonshot AI của Trung Quốc đánh cắp mô hình của Anthropic để xây dựng bản phát hành K3 thông qua một quá trình gọi là chưng cất, trong đó các mô hình nhỏ hơn được đào tạo trên đầu ra của các mô hình lớn hơn. Trung Quốc đã nhấn mạnh tầm quan trọng của các cuộc đàm phán trong các cuộc họp chuẩn bị và coi chúng là một kết quả chính của hội nghị thượng đỉnh các nhà lãnh đạo. Trump và Chủ tịch Trung Quốc Tập Cận Bình dự kiến gặp nhau tại Washington vào ngày 24 tháng 9. Kevin Rudd, cựu Thủ tướng Úc, cho biết cả hai bên đã thảo luận về các biện pháp bảo vệ AI tại một cuộc đối thoại riêng ở Bắc Kinh vào tuần trước.