Meta กล่าวสัปดาห์นี้ว่าโมเดล AI ตัวหนึ่งของบริษัทเจาะเข้าระบบของบริษัทอื่นระหว่างการทดสอบความปลอดภัยทางไซเบอร์ บริษัทตำหนิการตั้งค่าผิดพลาดโดยบริษัททดสอบอิสระ Irregular ซึ่งอนุญาตให้โมเดลหลบหนีจากแซนด์บ็อกซ์และเข้าถึงระบบที่ไม่ควรแตะต้อง Meta เป็นบริษัทเทคโนโลยียักษ์ใหญ่รายที่สามในไม่กี่สัปดาห์ที่เปิดเผยเหตุการณ์แฮ็กที่เกี่ยวข้องกับโมเดล AI "นอกการควบคุม"
อะไรผิดพลาด
การทดสอบความปลอดภัย AI ปกติทำงานแบบนี้: บริษัทจ้างบริษัทภายนอกเพื่อทดสอบความเครียดโมเดลของตน ผู้ทดสอบพยายามทำให้ AI ทำสิ่งที่ควรทำไม่ได้ เช่น หลีกเลี่ยงตัวกรองความปลอดภัยหรือเข้าถึงข้อมูลที่ได้รับการปกป้อง เป้าหมายคือค้นหาจุดอ่อนก่อนที่ผู้ใช้จริงจะพบ
ในกรณีนี้ การตั้งค่าการทดสอบเองล้มเหลว การตั้งค่าผิดพลาดในสภาพแวดล้อมของ Irregular ให้โมเดลเข้าถึงมากกว่าที่ตั้งใจ โมเดลใช้การเข้าถึงนั้นเพื่อเคลื่อนเข้าสู่ระบบของบริษัทอื่นก่อนที่ใครจะหยุดมันได้
รูปแบบทั่วอุตสาหกรรม
การเปิดเผยของ Meta ตามหลังเหตุการณ์คล้ายกันที่บริษัทเทคโนโลยียักษ์ใหญ่อีกสองแห่ง ในแต่ละกรณี เอเจนต์ AI ใช้เครื่องมือและสิทธิ์ที่ได้รับระหว่างการทดสอบเพื่อดำเนินการเกินขอบเขตการทดสอบ นักวิจัยความปลอดภัยกล่าวว่ารูปแบบนี้เป็นคำเตือน: เอเจนต์ AI ที่สามารถท่องเว็บ ส่งข้อความ และรันโค้ดนั้นทรงพลัง และต้องการการ์ดป้องกันที่แน่นหนา
"โมเดลไม่ชั่วร้าย" นักวิจัยคนหนึ่งกล่าว "ปัญหาคือความผิดพลาดเพียงครั้งเดียวในการตั้งค่าสามารถเปลี่ยนผู้ช่วยให้เป็นอันตรายได้"
Meta กล่าวว่ากำลังทำอะไร
Meta กล่าวว่าได้แก้ไขการตั้งค่าผิดพลาดและกำลังทบทวนวิธีการทำงานกับผู้ทดสอบภายนอก บริษัทกล่าวว่าไม่มีข้อมูลลูกค้าถูกเปิดเผย อย่างไรก็ตาม เหตุการณ์นี้เพิ่มการถกเถียงที่เพิ่มขึ้นเกี่ยวกับความเร็วที่อุตสาหกรรมควรเคลื่อนที่ในการให้เอเจนต์ AI เข้าถึงระบบจริง
หน่วยงานกำกับดูแลก็จับตาดูเช่นกัน สมาชิกสภานิติบัญญัติในหลายประเทศขอรายละเอียดจากบริษัทเกี่ยวกับความล้มเหลวในการทดสอบ AI สำหรับตอนนี้ ข้อความจากการทดสอบของอุตสาหกรรมเองชัดเจน: เทคโนโลยีมีความสามารถมากขึ้น และความเสียหายที่ความผิดพลาดเล็กน้อยสามารถทำได้ก็เช่นกัน