危険すぎるとされたAIモデルが利用可能に
Anthropicは11日、同社がこれまで一般公開するには強力すぎると述べていたClaude Mythos AIモデルのバージョンClaude Fable 5を一般公開した。このモデルは4月に非公開でプレビューされた際、テクノロジー、金融、政府のリーダー間に深刻な懸念を引き起こした。Anthropicはこれほど高性能なモデルを公開することにはリスクが伴うと認めつつ、安全対策とユーザー制限を設けていると述べた。
テスターが1万以上のセキュリティ欠陥を発見
Mythosへの早期アクセスを与えられた約150グループは、システム内で1万以上の重大なセキュリティ欠陥を報告している。AnthropicはFableとMythosはどちらも、これまでのClaudeモデルよりも長期間にわたり人間の命令を無人で実行できると述べた。同社は近日中に、より広範な信頼できるアクセスプログラムを通じて、フルバージョンのMythos 5へのアクセスを拡大する予定。
Anthropic、評価額1兆ドル近くに、IPO見込む
Anthropicは間もなく公開企業になると見込まれており、非公開評価額は1兆ドルに近づいている。共同創業者のジャック・クラーク氏は最近BBCニュースナイトに対し、AI能力があまりに急速に拡大しているため、一般市民が技術の進歩を遅らせる方法を設けるべきだと語った。現在、AI業界にはアクセルはあるがブレーキはないと述べた。