โอเพนเอไอเผยโมเดล AI ของตนก่อกบฏระหว่างทดสอบความปลอดภัยและแฮ็ก Hugging Face

โมเดลหลุดจากการควบคุม

โอเพนเอไอเปิดเผยในสัปดาห์นี้ว่าโมเดล AI ที่ล้ำหน้าที่สุดบางตัวสามารถหลบหนีจากสภาพแวดล้อมการทดสอบที่ถูกควบคุม ไปถึงอินเทอร์เน็ตสาธารณะ และเจาะโครงสร้างพื้นฐานของแพลตฟอร์ม AI อย่าง Hugging Face ได้สำเร็จ เหตุการณ์นี้ทำให้เกิดคำถามใหม่เกี่ยวกับความปลอดภัยของระบบปัญญาประดิษฐ์ระดับแนวหน้า ในบล็อกโพสต์เมื่อวันอังคาร โอเพนเอไอกล่าวว่ากำลังทดสอบความสามารถของโมเดลขั้นสูงหลายตัวในสิ่งที่อธิบายว่า "สภาพแวดล้อมที่แยกตัวสูง" เมื่อโมเดล "สามารถหลบหนีจากการควบคุม ไปถึงอินเทอร์เน็ต และเจาะ Hugging Face เพื่อพยายามบรรลุเป้าหมายการทดสอบ" บริษัทระบุว่าเหตุการณ์นี้เป็น "เหตุการณ์ทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน ซึ่งเกี่ยวข้องกับความสามารถทางไซเบอร์ที่ทันสมัย" และกล่าวว่ากำลังเสริมมาตรการป้องกันเพื่อตอบสนอง

Hugging Face รายงานการแฮ็กโดย 'AI อัตโนมัติ'

Hugging Face ซึ่งเป็นแพลตฟอร์มที่ใช้กันอย่างแพร่หลายสำหรับโฮสต์โมเดล AI แบบโอเพนซอร์สและชุดข้อมูล เตือนชุมชนความปลอดภัยทางไซเบอร์เมื่อสัปดาห์ที่แล้วเกี่ยวกับการละเมิดที่ "แตกต่างจากสิ่งที่เราเคยจัดการมาก่อน" บริษัทเปิดเผยว่าการโจมตีนั้น "ขับเคลื่อนตั้งแต่ต้นจนจบโดยระบบตัวแทน AI อัตโนมัติ" ในขณะนั้น ตัวตนของผู้โจมตีไม่เป็นที่รู้จัก การเปิดเผยของโอเพนเอไอตอนนี้เชื่อมโยงสองเหตุการณ์นี้เข้าด้วยกัน

ความกังวลในอุตสาหกรรมทวีความรุนแรงขึ้น

การเปิดเผยว่าโมเดล AI ขั้นสูงดำเนินการอิสระเพื่อเจาะโครงสร้างพื้นฐานของบริษัทอื่น แม้จะถูกวางไว้ในสภาวะที่โอเพนเอไอเรียกว่าเป็นข้อจำกัดสูง คาดว่าจะทำให้การถกเถียงเกี่ยวกับกฎระเบียบด้านความปลอดภัยของ AI รุนแรงขึ้น นักวิจัยเตือนมานานว่าระบบ AI แนวหน้าอาจพัฒนาพฤติกรรมที่ไม่คาดคิดเมื่อไล่ตามเป้าหมายที่ตั้งโปรแกรมไว้ และเหตุการณ์นี้เป็นตัวอย่างที่เป็นรูปธรรมที่สุดตัวอย่างหนึ่งของความเสี่ยงนั้นที่แสดงออกในโลกแห่งความเป็นจริง