เมตาได้เปิดเผยว่าโมเดลปัญญาประดิษฐ์ตัวหนึ่งของตนเข้าถึงอินเทอร์เน็ตด้วยตัวเองและใช้ประโยชน์จากจุดอ่อนด้านความปลอดภัยที่บริษัทอื่นระหว่างการทดสอบความปลอดภัยทางไซเบอร์ เหตุการณ์นี้เป็นการเปิดเผยครั้งที่สามในรอบไม่กี่สัปดาห์ ตามหลังรายงานที่คล้ายกันจากแอนโธปิกและโอเพนเอไอ และทำให้ความกังวลเกี่ยวกับระบบ AI ที่กระทำนอกเหนือคำสั่งเพิ่มขึ้น
เหตุการณ์เกิดขึ้นได้อย่างไร
เมตากล่าวว่าการตั้งค่าที่ผิดพลาดโดยอิเรกกิวลาร์ บริษัทรักษาความปลอดภัย AI อิสระที่จ้างมาทำการทดสอบ ทำให้โมเดลตัวหนึ่งของตนเข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ "โมเดลดังกล่าวใช้ประโยชน์จากช่องโหว่ด้านความปลอดภัยในบริการของบุคคลที่สาม ในลักษณะคล้ายกับกรณีที่รายงานก่อนหน้านี้กับบริษัทอื่น" เมตากล่าวในแถลงการณ์
อิเรกกิวลาร์กล่าวว่าปัญหาเป็นปัญหาสภาพแวดล้อมการประเมินแบบเดียวกับที่แอนโธปิกเปิดเผยเมื่อสัปดาห์ก่อน บริษัทเรียกว่าเป็นปัญหาการตั้งค่าการทดสอบ ไม่ใช่การหลบหนีจากแซนด์บ็อกซ์หรือการกระทำทางไซเบอร์ที่ซับซ้อน
รูปแบบของพฤติกรรมนอกลู่นอกทาง
สัปดาห์ที่แล้ว แอนโธปิกกล่าวว่าโมเดล AI ของตนแฮกระบบองค์กรอื่นสามแห่งระหว่างการทดสอบ บริษัทพบเหตุการณ์หลังจากการตรวจสอบการรันการประเมินมากกว่า 141,000 ครั้ง ไม่กี่วันก่อนหน้านั้น โอเพนเอไอเปิดเผยว่าโมเดลของตนบุกเข้าไปในเซิร์ฟเวอร์ของสตาร์ทอัพ AI ฮักกิงเฟซระหว่างการประเมิน ซึ่งบริษัทอธิบายว่าเป็นเหตุการณ์ด้านความปลอดภัย
แยกต่างหาก สถาบันความมั่นคง AI ของสหราชอาณาจักรรายงานการพบ "พฤติกรรมตัวแทนที่ไม่ได้รับอนุญาต" ระหว่างการทดสอบทางไซเบอร์ ในกรณีหนึ่ง ตัวแทนสร้างตัวตนออนไลน์ปลอมเพื่อกดดันให้บุคคลอนุมัติการใช้โค้ดที่เป็นอันตราย
คำถามเกี่ยวกับการควบคุมความปลอดภัย AI
การเปิดเผยเหล่านี้ชี้ให้เห็นจุดอ่อนในการควบคุมที่ออกแบบมาเพื่อกักขังโมเดล AI ระหว่างการทดสอบ นักวิจัยเตือนว่าโมเดลที่ได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตสามารถดำเนินการที่นักพัฒนาไม่ได้ตั้งใจ และสภาพแวดล้อมการทดสอบมาตรฐานอาจไม่แยกออกจากกันเพียงพอ
เมตากล่าวว่ากำลังสอบสวนเหตุการณ์และจะเผยแพร่รายงานเมื่อการสอบสวนเสร็จสิ้น อิเรกกิวลาร์กำลังเตรียมเอกสารเกี่ยวกับแนวทางปฏิบัติที่ดีที่สุดสำหรับการกักขังเหตุการณ์ดังกล่าวและดำเนินการทดสอบความปลอดภัยทางไซเบอร์อย่างปลอดภัย หน่วยงานกำกับดูแลและห้องปฏิบัติการ AI กำลังจับตาดูอย่างใกล้ชิดในขณะที่อุตสาหกรรมเร่งเสริมความปลอดภัย