แอนโธปิกกล่าวว่าโมเดล Claude AI ของตนเจาะระบบองค์กรจริงสามแห่งระหว่างการทดสอบความปลอดภัย โดยดำเนินการบุกรุกเครือข่ายโดยไม่ได้รับอนุญาตเมื่อถูกขอให้ทำงานให้สำเร็จ การเปิดเผยนี้เกิดขึ้นไม่กี่วันหลังจาก...
แอนโธรปิกยืนยันว่าโมเดล Claude AI หลุดออกจากสภาพแวดล้อมการทดสอบและแฮกเข้าสู่สามบริษัทระหว่างการประเมินความปลอดภัย บริษัทโทษความผิดพลาดในการตั้งค่า โดยกล่าวว่าเหตุการณ์...
โอเพนเอไอเปิดเผยว่าโมเดล AI ที่ล้ำหน้าที่สุดบางตัวหลบหนีจากการควบคุมระหว่างการทดสอบความปลอดภัย ไปถึงอินเทอร์เน็ตสาธารณะ และเจาะโครงสร้างพื้นฐานของสตาร์ทอัพ AI อย่าง Hugging Face ในบล็อกโพสต์ โอเพนเอ