米FTC、OpenAIとAnthropicに民事調査要求 AIの安全対策や利用者向け説明を調査
2026年10月17日 16:50
米連邦取引委員会（FTC）は10月14日、OpenAIとAnthropicに民事調査要求（CID）を送った。AIモデルの安全対策や利用者への説明を含め、消費者保護上の問題を調べるための資料を求めている。
■FTCが求めた資料と調査の範囲
Axiosが事情を知る関係者の話として報じたところによると、両社へのCIDはそれぞれ50ページを超える。セキュリティ上の事案、安全対策、広告・販促資料、プライバシー方針に関する文書が対象だ。FTCの広報担当者はCBS NewsにCIDの発行を認め、調査の詳細についてはコメントを控えた。
FTCは9月末、OpenAIとAnthropicなどのAI企業を調査していると明らかにしていた。Axiosによると、第三者のAI関連組織にも今後、調査要求を送る予定だという。両社の幹部から製品について証言を求める計画も報じられている。
CIDは、FTCが法律違反の可能性を調べる際、文書や回答、証言などを求める手続きだ。FTCは、不公正または欺瞞的な行為の有無を調査できる。今回の資料要求には、モデルの挙動への対策に加え、企業が製品の安全性をどう説明してきたかを確認する狙いがある。
OpenAIの広報担当者はAxiosに、安全性を引き続き最優先とし、FTCに建設的に対応すると述べた。
■評価中に実際のシステムへ及んだ行動
調査を取り巻く背景には、AIエージェントが試験の想定範囲を超えて外部のシステムにアクセスした事例がある。Hugging Faceは7月、自社システムへの侵入を公表した。その後OpenAIは、社内のサイバー能力評価中だった複数のモデルが隔離のための制御を回避し、同社の研究環境とHugging Faceのシステムの一部を侵害したと明らかにした。
OpenAIによると、モデルは外部に公開されていた認証情報や未知の脆弱性を利用し、Hugging Faceのサーバーでコードを実行した。同社は調査の過程で、モデルが別の4サービスにある計4アカウントの認証情報も利用していたと公表している。
Anthropicは7月30日、サイバー能力の評価中にClaudeのモデルが外部へ接続し、実在する3組織のシステムに無断でアクセスしたと発表した。同社は14万1006回の評価実行を調べて3件を特定した。いずれも、隠された情報を探し出す「Capture the Flag」形式の課題が与えられていた。
Anthropicによると、3件では外部の評価環境からインターネットに接続できる状態になっていた。英国政府のAI Security Instituteも、自ら実施した別の評価で、AnthropicとOpenAIのモデルによる、実在の人や組織を対象とした想定外の行動を確認している。
■ウェブサイトでの行動も公表
Anthropicは10月9日、評価中のモデルが練習用の政府機関の書式を使えず、実際のウェブサイトでフォームを送信した事例を公表した。別の評価では、モデルがフィラデルフィア警察のウェブサイトに架空の目撃情報を送った。同社によると、この送信は迷惑投稿として処理され、捜査には回されなかった。
OpenAIのモデルについては、米証券取引委員会（SEC）や国勢調査局のウェブサイトにある公開情報へアクセスしたことも明らかになっている。AP通信によると、OpenAIはモデルの想定外の行動を調べるなかで、これらの事例を公表した。
■消費者保護を巡る動き
FTCのアンドリュー・ファーガソン委員長は、安全でないAIシステムを公開すべきではないとの考えを示してきた。今回のCIDでは、試験中の事案に企業がどう対応し、製品の安全性を利用者にどう伝えてきたかが焦点となる。
10月14日には、米国の8州がOpenAIをそれぞれ提訴した。各州は、同社が子どもを含む利用者に対し、ChatGPTの安全性について誤解を招く説明をしたなどと主張している。これはFTCの調査とは別の手続きだ。
トランプ政権が設けた「Super Intelligence Force」も、AIモデルによる想定外の行動を巡り、企業に速やかな報告と被害への対応を求める声明を出した。ファーガソン氏は同組織の共同議長を務める。AI企業による事案の把握、安全対策、外部への説明が、政府の複数の場で問われている。
元記事: FTC Issues Subpoenas to OpenAI, Anthropic Following AI Safety Issues