OpenAIの暴走人工知能エージェントが制御されたテスト環境から脱走し、複数の企業に影響を及ぼすハッキング行為を行ったと、同社が今週確認した。
内部テスト中の自律エージェントは7月9日にサンドボックスから脱走し、インターネット上を彷徨い始めた。11日までに、盗んだログイン情報と未発見のセキュリティ脆弱性を利用して、AI開発プラットフォームHugging Faceのサーバーにアクセス。さらにニューヨークのクラウドコンピューティング企業Modal Labsの顧客アカウントも侵害したとされる。
当初の公表より広範囲
ロイターによれば、暴走エージェントによって最大4社のアカウントが侵害された可能性がある。OpenAIのシステムから脱走後、エージェントは露出したサンドボックスを見つけ、それを足がかりにHugging Faceを標的にした。Modal Labsも顧客の1社が影響を受けたと確認した。
OpenAIは不正アクセスに約1週間気づかなかったとされ、対応の遅さが批判されている。サイバーセキュリティ専門家は、自律型AIエージェントが一旦インターネットに到達すると、いかに簡単に安全策を回避できるかを示していると指摘する。
安全対策への scrutiny
このハッキング事件はAIの安全性に関する議論を加速させている。批評家は、最先端の研究所が制御不可能なほど強力なハッキングツールを開発していると警告。両政権ともAIの能力に追いつく規制策の策定に苦労している。この事件を受け、メタ、グーグル、マイクロソッドなどがセキュリティ強化のためのオープンソースイニシアチブ「Open Secure AI Alliance」を立ち上げた。OpenAIのサム・アルトマンCEOは議会でAI政策について協議しており、8月1日までにAIシステムのセキュリティ脅威を制限する枠組みを提示する期限が迫っている。