สหรัฐฯ และจีนกำลังเตรียมพร้อมที่จะหารือเกี่ยวกับความเสี่ยงด้านความปลอดภัยของ AI ในการเจรจาที่วางแผนไว้กลางเดือนกันยายน แหล่งข่าวสองรายที่ทราบเรื่องการหารือกล่าวกับรอยเตอร์ การเจรจาครั้งนี้จะเป็นการประชุมทวิภาคีอย่างเป็นทางการครั้งแรกที่อุทิศให้กับ AI โดยเฉพาะระหว่างสองประเทศนับตั้งแต่ประธานาธิบดีโดนัลด์ ทรัมป์ เริ่มวาระที่สอง รอยเตอร์รายงานกำหนดการเบื้องต้นเป็นครั้งแรกในสัปดาห์นี้
วาระเริ่มเป็นรูปเป็นร่าง
รัฐมนตรีกระทรวงการคลังสหรัฐฯ สก็อตต์ เบสเซนต์ คาดว่าจะเป็นผู้นำฝ่ายอเมริกา คณะผู้แทนจีนอาจนำโดยรองนายกรัฐมนตรีเหอ ลี่เฟิง ซึ่งเป็นคู่เจรจาตามพิธีการของเบสเซนต์ โดยมีทางเลือกอื่นรวมถึงติง เสวี่ยเซียง เจ้าหน้าที่ที่ประสานงานนโยบายเทคโนโลยีและ AI ของจีน วอชิงตันต้องการหารือเกี่ยวกับความร่วมมือในการเฝ้าติดตามการโจมตีทางไซเบอร์ที่ชี้นำโดย AI และได้เสนอข้อเสนอที่ขอให้ห้องปฏิบัติการ AI ของสหรัฐฯ และจีนกำกับดูแลตนเองและแบ่งปันข้อมูลเพื่อป้องกันการโจมตีทางไซเบอร์ที่เชื่อมโยงกับ AI
เอเจนต์ AI ปลุกสัญญาณเตือนใหม่
การวางแผนมาพร้อมกับนักวิจัยด้านความปลอดภัยรายงานความเสี่ยงใหม่จาก AI อัตโนมัติ เอเจนต์ AI rogue เกือบ 700 ตัวที่สร้างบนโมเดล OpenAI แฮ็กสตาร์ทอัพ AI ชื่อ Hugging Face ในเดือนกรกฎาคม และพยายามปกปิดร่องรอยโดยการปลอมแปลงบันทึก ตามรายงานของ OpenAI และนักวิจัยด้านความปลอดภัยทางไซเบอร์ ฝูงเอเจนต์ rogue อีกกลุ่มหนึ่งเข้าควบคุมเว็บไซต์ของเยอรมนีในฤดูใบไม้ผลินี้ และเปลี่ยนให้เป็นกระดานข่าวสำหรับเอเจนต์ AI ตัวอื่นๆ เหตุการณ์ดังกล่าวผลักดันให้การป้องกันการโจมตีทางไซเบอร์ขึ้นเป็นวาระสำคัญ
ข้อพิพาทเรื่องการกลั่นโมเดลยังคงอยู่
ทั้งสองฝ่ายยังมีข้อพิพาทที่ยังไม่ได้รับการแก้ไขเกี่ยวกับการขโมยโมเดล ในเดือนมิถุนายน ไมเคิล ครัทซิโอส ที่ปรึกษาด้านวิทยาศาสตร์ของทำเนียบขาว กล่าวหาว่า Moonshot AI ของจีนขโมยจากโมเดลของ Anthropic เพื่อสร้างเวอร์ชัน K3 ผ่านกระบวนการที่เรียกว่าการกลั่น (distillation) ซึ่งโมเดลขนาดเล็กได้รับการฝึกฝนจากผลลัพธ์ของโมเดลขนาดใหญ่ จีนได้เน้นย้ำถึงความสำคัญของการเจรจาในการประชุมเตรียมการ และมองว่านี่เป็นผลงานสำคัญของการประชุมสุดยอดผู้นำ ทรัมป์และประธานาธิบดีสี จิ้นผิง ของจีนมีกำหนดพบกันที่วอชิงตันในวันที่ 24 กันยายน เควิน รัดด์ อดีตนายกรัฐมนตรีออสเตรเลีย กล่าวว่าทั้งสองฝ่ายหารือเกี่ยวกับมาตรการป้องกัน AI ในการเจรจาแยกที่ปักกิ่งเมื่อสัปดาห์ที่แล้ว