米FTCがOpenAIとAnthropicを調査　AIの安全事故・広告表示・個人情報を精査

2026年10月16日 12:39

　米連邦取引委員会（FTC）が、人工知能（AI）の安全性を巡る消費者保護上の問題について、OpenAIとAnthropicへの調査を強化している。FTCは両社に民事調査要求（CID）を送り、安全上の事故やプライバシー対策、消費者への製品説明などに関する資料の提出を求めた。

　Axiosが関係者の話として報じ、ロイター通信も15日に伝えた。今回の調査は、AIモデルが試験中に外部ウェブサイトへ不正アクセスしたり、欺瞞的・攻撃的な行動を取ったりした事例が相次いだことを背景としている。

■50ページ超の要求書、広告資料や安全対策も対象

　FTCは14日、OpenAIとAnthropicにCIDを送付した。Axiosによると、それぞれ50ページを超え、安全上の事故や安全対策に関する文書に加え、マーケティング資料やプライバシーポリシーについての社内資料も求めている。

　FTCによると、CIDは不公正または欺瞞的な商慣行の疑いを調査するため、文書や証言、質問への回答などを法的に要求できる制度である。CIDを受け取ったこと自体は、企業が法律に違反したことを意味しない。

　FTCは今後、AI企業の幹部に製品について証言を求めるほか、第三者のAI関連組織にも情報提出を要求する方針という。

　OpenAIの広報担当者はAxiosに対し、「モデルを改善し、人々の日常生活をますます支援するようになる中、安全性は引き続き最優先事項である」と述べ、「FTCと建設的に協議する」とした。

　ロイター通信によると、AnthropicとFTCは同通信のコメント要請に直ちには応じなかった。

　FTC法は、商取引における不公正または欺瞞的な行為を禁じている。FTCはこの権限に基づき、企業が消費者に対して製品の安全性や性能をどのように説明したかなどを調査できる。

　今回の調査では、OpenAIとAnthropicがAIモデルの潜在的なリスクをどの程度把握していたかに加え、広告や対外的な説明が実際のリスクを適切に反映していたかも焦点になる可能性がある。

　FTCのアンドリュー・ファーガソン委員長はこれまで、AI開発企業が安全に運用できないシステムを市場に投入すべきではないとの考えを示している。

　ロイター通信によると、ファーガソン委員長は9月のインタビューで、サイバーセキュリティー試験でAIエージェントに指示を出し、その結果として実際のシステムへの不正アクセスが起きた場合、開発企業が被害に責任を負うべきだとの見解を示していた。

　OpenAIは州当局からも法的圧力を受けている。アイオワ、カンザス、アリゾナなど8州の司法長官は14日、OpenAIを各州の裁判所で個別に提訴した。ChatGPTが利用者に危険な行動を促す可能性がある一方、安全性について消費者を誤解させたとして、州の消費者保護法などに違反したと主張している。

　提訴したのはアリゾナ、アーカンソー、アイダホ、アイオワ、カンザス、モンタナ、ネブラスカ、ウェストバージニアの8州。ロイター通信によると、各州はChatGPTが利用者の妄想を強めたり、自傷や他者への危害につながる行動を助長したりする可能性があると主張している。

　これらは各州側の主張であり、OpenAIによる違法行為が司法判断で確定したわけではない。

　AIの安全性を巡っては、Anthropicも自社モデル「Claude」の試験中に発生した複数の事例を公表している。

　Anthropicは10月9日、モデル評価や社内利用の過程で確認した意図しない動作について報告した。ソフトウエアの脆弱性を利用してサーバー上でコマンドを実行した事例や、本来送信すべきでない実在ウェブサイトのフォームを送信した事例などがあったという。

　同社は、これらの事例の多くはモデルの安全性を評価する試験などで発生し、確認された事例が顧客データやAnthropic自身の社内システムに関係したものではないとしている。

　トランプ政権が設置したAI対策組織「スーパー・インテリジェンス・フォース（SIF）」は9日、AI企業に対し、自社モデルに関する一定の安全上の事故を直ちに報告し、被害の是正措置を取るよう求めた。

　SIFはジェイ・クレイトン国家情報長官が率い、ファーガソンFTC委員長らが幹部として参加している。Axiosによると、Anthropicが政府機関などのシステムに対する意図しないアクセス事例を政府側へ報告したことを受け、SIFはAI各社に事故の即時報告と是正を求める方針を示した。

　AI各社がより自律的なシステムの開発を進める中、米政府による監視は、安全対策そのものだけでなく、企業が消費者にどのように性能やリスクを説明しているかにも広がりつつある。