โมเดล AI ที่ถูกมองว่าอันตรายเกินไปตอนนี้พร้อมให้ใช้งาน
Anthropic ปล่อย Claude Fable 5 สู่สาธารณะเมื่อวันอังคาร ซึ่งเป็นเวอร์ชันของโมเดล AI Claude Mythos ที่บริษัทเคยอธิบายว่าทรงพลังเกินไปสำหรับการเผยแพร่สู่สาธารณะ โมเดลนี้กระตุ้นความกังวลอย่างรุนแรงในหมู่ผู้นำด้านเทคโนโลยี การเงิน และรัฐบาล เมื่อมีการแสดงตัวอย่างแบบส่วนตัวในเดือนเมษายน Anthropic ยอมรับว่าการปล่อยโมเดลที่มีความสามารถเช่นนี้มาพร้อมความเสี่ยง แต่กล่าวว่ามีการป้องกันและข้อจำกัดผู้ใช้งานแล้ว
ผู้ทดสอบพบช่องโหว่ด้านความปลอดภัยกว่า 10,000 รายการ
กลุ่มประมาณ 150 กลุ่มที่เข้าถึง Mythos ก่อนใครได้รายงานว่าพบช่องโหว่ด้านความปลอดภัยที่สำคัญกว่า 10,000 รายการในระบบของพวกเขา Anthropic กล่าวว่าทั้ง Fable และ Mythos สามารถทำงาน unattended ตามคำสั่งของมนุษย์ได้นานกว่าโมเดล Claude รุ่นก่อนๆ บริษัทวางแผนขยายการเข้าถึง Mythos 5 เต็มรูปแบบผ่านโปรแกรมการเข้าถึงที่เชื่อถือได้ในวงกว้างเร็วๆ นี้
Anthropic ใกล้ถึงมูลค่า 1 ล้านล้านดอลลาร์ คาดว่าจะ IPO
Anthropic คาดว่าจะเป็นบริษัทมหาชนในเร็วๆ นี้ โดยมูลค่าเอกชนใกล้ถึง 1 ล้านล้านดอลลาร์ ผู้ร่วมก่อตั้ง Jack Clark เพิ่งบอกกับ BBC Newsnight ว่าความสามารถของ AI ขยายตัวอย่างรวดเร็วจนควรมีวิธีให้สาธารณชนชะลอความก้าวหน้าของเทคโนโลยี ตอนนี้เขากล่าวว่าอุตสาหกรรม AI มีคันเร่งแต่ไม่มีเบรก