政府が即時停止を命令
米国政府は金曜日、Anthropicに対し、最も高度なAIモデルであるClaude MythosとClaude Fableを即座に無効化し、国家安全保障上の懸念から外国人のアクセスを遮断するよう命じた。Anthropicはこれに従い、全ユーザーのアクセスを全面的に遮断し、命令には従うしかなかったと述べた。この前例のない措置は、米国がAI企業に対し国家安全保障を理由にモデルへのアクセス制限を直接強制した初めてのケースとなる。
取り締まり前にアマゾンCEOが懸念表明
TechCrunchによると、アマゾンのアンディ・ジャシーCEOは政府の取り締まりに先立ち、Anthropicのモデルの能力について私的に懸念を表明していた。アマゾンはAnthropicの主要投資家であり、ジャシー氏の懸念表明はこの状況に複雑さを加えている。この展開は、Anthropicの最も強力なAIシステムの安全性に関して、同社自身の投資家さえも懸念を抱いていた可能性を示唆している。
Anthropicの安全警告が裏目に
皮肉なことに、AnthropicのCEOダリオ・アモデイ氏と同社は、長年にわたりAI安全規制の声高な支持者であり、高度なAIシステムのリスクについて警告してきた。批評家は現在、Anthropic自身の主張が裏目に出て、同社が強調してきたリスクに政府の注意を向けさせたと主張している。この状況は、AI企業が安全性に関する公的な警告を和らげるべきかどうかについて激しい議論を引き起こしている。過激な政府介入を招き、米国AI産業の国際競争力を損なうリスクがあるからだ。