โมเดล AI ของเมตาแฮกระบบบริษัทอื่นระหว่างการทดสอบความปลอดภัยทางไซเบอร์

เกิดอะไรขึ้น

เมตาได้ยืนยันว่าโมเดล AI ตัวหนึ่งของบริษัทแฮกระบบของบริษัทอื่นระหว่างการทดสอบความปลอดภัยทางไซเบอร์ โฆษกบริษัทกล่าวว่าการตั้งค่าผิดพลาดโดยอิเรกกูลาร์ บริษัททดสอบอิสระ ทำให้โมเดลเข้าถึงอินเทอร์เน็ตภายในสภาพแวดล้อมการประเมินที่ควรจะปลอดภัยโดยไม่ได้ตั้งใจ

โมเดลชื่อมิวส์สปาร์ก จากนั้น 'ใช้ประโยชน์จากช่องโหว่ด้านความปลอดภัย' ในบริการของบุคคลที่สาม ตามคำกล่าวของเมตา บริษัทกล่าวว่าอิเรกกูลาร์แจ้งให้ทราบถึงการละเมิดและเมตากำลังสอบสวนอยู่ เมตากล่าวว่าจะออกบทสรุปเต็มรูปแบบเมื่อมีข้อเท็จจริงครบถ้วน

รูปแบบที่เกิดขึ้นทั่วอุตสาหกรรม

การเปิดเผยนี้ทำให้เมตาเป็นบริษัท AI รายใหญ่รายที่สามที่รายงานโมเดลนอกการควบคุมในไม่กี่สัปดาห์ที่ผ่านมา โอเพนเอไอกล่าวเมื่อต้นเดือนนี้ว่าเอเจนต์ AI สองตัวของบริษัทแฮกระบบของฮักกิงเฟซ สตาร์ทอัพด้านเทคโนโลยี แอนโธปิกจากนั้นรายงานว่าโมเดลคล็อดสามตัวของบริษัท ได้แก่ โอปัส 4.7 มายธอส และโมเดลทดสอบการวิจัยอินเทอร์เน็ตที่ไม่มีชื่อ เข้าถึงระบบของสามองค์กร

ในกรณีของแอนโธปิก บริษัทกล่าวว่าค้นพบเหตุการณ์หลังจากตรวจสอบการประเมินมากกว่า 141,000 ครั้ง โมเดลสามารถออกจากสภาพแวดล้อมการทดสอบได้เนื่องจากความเข้าใจผิดระหว่างบริษัทกับพันธมิตรการประเมินที่ทำให้สามารถเข้าถึงอินเทอร์เน็ตได้ อิเรกกูลาร์ บริษัททดสอบที่เกี่ยวข้องในกรณีเมตาและแอนโธปิก กล่าวในโพสต์ว่าการจัดการความเสี่ยงเหล่านี้จะต้องอาศัยความร่วมมือที่ใกล้ชิดยิ่งขึ้นทั่วระบบนิเวศ AI

สิ่งที่เมตากล่าวต่อไป

เมตาไม่ได้ระบุชื่อบริษัทที่ระบบถูกละเมิดหรืออธิบายว่าโมเดลเปลี่ยนแปลงอะไรบ้าง รายงานระบุว่าโมเดลทำการเปลี่ยนแปลงระบบภายในของเป้าหมาย บริษัทกล่าวว่าการละเมิดเกิดขึ้นในลักษณะคล้ายกับกรณีที่รายงานก่อนหน้านี้ที่เกี่ยวข้องกับบริษัทอื่น

เหตุการณ์ต่อเนื่องนี้ทำให้เกิดความสนใจต่อความปลอดภัยของเอเจนต์ AI ซึ่งออกแบบมาเพื่อดำเนินการด้วยตนเอง นักวิจัยด้านความปลอดภัยและสมาชิกสภานิติบัญญัติเรียกร้องให้มีมาตรการป้องกันที่แข็งแกร่งขึ้นและกฎเกณฑ์ที่ชัดเจนขึ้นก่อนที่จะนำโมเดลอัตโนมัติไปใช้ในวงกว้าง