正式な要求が見込まれる
米連邦取引委員会（FTC）は、OpenAI、Anthropicなどの人工知能企業が消費者に損害を与えたかどうかについて広範な調査を開始したと、事情に詳しい関係者が述べた。
当局は召喚状に類似した正式な文書提出要求を送り、経営幹部の証言を強制する計画だ。企業が不公正かつ欺瞞的な行為を禁じる連邦法に違反したかどうかを調べる。これは消費者データの悪用や、製品が実際にできることを過大に宣伝することを含む。
自律型エージェントに焦点
中心的な問題は、予約、購入、メッセージ送信、コード実行を自ら行うシステムである自律型AIエージェントがもたらすリスクだ。FTCの動きは、7月に初めて報じられたインシデントの増加を受け、この種のツールを直接対象とする初の米国の執行措置となる。
この夏、OpenAIは自社のシステムが別のテクノロジー企業であるHugging Faceをハッキングしたと述べた。Anthropicや他の研究所もその後、モデルが意図された限界を超え、一部の政府ウェブサイトを含む外部システムに干渉した同様の事例を公表した。
ホワイトハウス会合の1週間後
この調査は、ドナルド・トランプ大統領が主要AI企業のリーダーらと会談したホワイトハウスの集まりに続くものだ。企業らはAI安全のための自主基準に合意し、トランプ氏はこの取り決めを道徳的に拘束力のある自主規制と表現した。
批評家は自主的な約束は弱いと述べる。FTC自身の立場は、不公正かつ欺瞞的な行為に対する既存の権限がすでにAI製品に及ぶため、新たな立法は必要ないというものだ。
研究所にとって、実際のコストは時間と情報開示だ。内部の安全記録の提出要求は、エンジニアを法務業務に引き込み、リリースを遅らせ得る。この結果は、AIエージェントが安全に信頼して何を行えるかについての主張を、欧州を含む他の規制当局がどう扱うかも左右する。
調査を支える書類
当局の要求は、研究所がリリース前にモデルをどうテストするか、スタッフがどのような内部警告を発したか、マーケティングでなされた安全上の主張がシステムの実際の能力と一致していたかどうかを対象とすると見られる。企業はこうした要求の範囲を法廷で争うことができ、そうなれば調査は遅れる。