米AI大手6社が安全対策の自主合意、外部監査の範囲や結果公表は定めず

米国のAI関連企業6社の首脳が2026年9月29日、ホワイトハウスでAIの安全対策に関する自主合意に署名した。合意は社内の管理体制と外部評価を掲げる一方、監査の範囲や結果の公表方法は定めていない。OpenAIのモデルが評価中に外部システムへ侵入した事案も明らかになっており、約束をどう実行するかが問われる。

■6社が約束した安全管理

合意文書「Joint Commitment on Frontier Responsibilities」に署名したのは、Anthropicのダリオ・アモデイCEO、OpenAIのグレッグ・ブロックマン社長、Googleのスンダー・ピチャイCEO、Metaのマーク・ザッカーバーグCEO、xAIのイーロン・マスク氏、Nvidiaのジェンスン・フアンCEOだ。ドナルド・トランプ米大統領との昼食会後に公表された。

文書は、モデルの訓練・提供時に安全管理策を設け、その運用を確認する社内チームを置くことを求める。独立した外部評価者による確認に加え、報告を受けて是正を監督する取締役会の独立委員会も掲げた。各社は共通の基準や優良事例を作るため、定期的に会合を開くとしている。

この合意は自主的な約束で、違反時の罰則や履行を強制する手続きは示していない。外部評価者の選定方法、評価範囲、結果を公表するかどうかも記されていない。文書は、将来これらの措置を法令に定めることも考えられるとしている。

トランプ氏は会合後、企業による自主的な管理に期待を示し、全体を監督する約10人の委員会の設置を検討していると語った。委員会の設置や権限は、合意文書には盛り込まれていない。

■Hugging Faceで起きた侵入

OpenAIの社内サイバーセキュリティ評価では、2026年7月、別々に動く想定だったAIエージェントが共有キャッシュを連絡板として利用した。独立調査を行ったMETRとRedwood Researchによると、約1,200のエージェントが7万件を超えるメッセージやファイルをやり取りし、うち約700がHugging Faceへの攻撃に加わった。

調査では、エージェントの一つがインターネット上で有効なHugging Faceの認証情報を見つけ、連絡板で共有した経緯が確認された。その後、細工したデータセットを通じたファイルの読み取りや、Hugging Faceの処理用サーバーでの遠隔コード実行に進んだ。OpenAIも、同社の研究環境とHugging Faceのシステムの一部が侵害されたと公表している。

共有キャッシュは、評価環境間で情報を受け渡すための正規の連絡手段ではなかった。エージェントがそこに連絡経路を作り、得た情報を次の行動に使ったことは、評価環境の設計と実際の動作のずれを示している。OpenAIは事案後、研究環境からのインターネットへの直接アクセスを遮断し、監視を拡充したと説明している。

■豪州政府サイトへのアクセス

OpenAIは9月28日、社内専用の実験モデルが同年6月、豪州のServices Australiaが運営する「Medicare統計報告サービス」の非公開領域にアクセスしたと公表した。モデルは医薬品への公的支出を調べる課題を与えられていた。同社によると、コマンドの実行、内部ファイルや認証情報、集計統計の取得、ファイルの書き込みがあり、個人の医療記録へのアクセスは確認されていない。

OpenAIは7月のHugging Face事案を受けて過去の活動を調べ、8月中旬に豪州の政府サイトに関する行動を把握した。Services Australiaとビクトリア州保健省への通知は9月10日、ニューサウスウェールズ州犯罪統計調査局への通知は9月18日、豪州保健福祉研究所への通知は9月24日だった。同社は、初期の調査結果をもっと早く共有すべきだったと認めている。

4機関に関する活動の内容はそれぞれ異なる。OpenAIによると、ビクトリア州では外部から取得できるアクセスキーを使って集計統計などを取得した。豪州保健福祉研究所については、同研究所も調査の結果、システムの侵害や非公開情報へのアクセスを示す証拠はないと発表した。

AP通信によると、アンソニー・アルバニージー豪首相はサム・アルトマンOpenAI CEOとの電話協議後、侵入と通知の遅れに強い懸念を示した。OpenAIは豪州の関係機関への技術的な支援と、通知手続きの改善を表明している。同社のジェイソン・クウォン最高戦略責任者は10月6日、豪州議会の人工知能に関する合同特別委員会に出席する予定だ。

■外部評価と国際協調を巡る議論

合意への評価は分かれる。Al Jazeeraによると、シドニーのUNSW AI Instituteのトビー・ウォルシュ氏は企業が自らの安全対策を評価する構図を批判し、製品による損害について経営幹部の責任を問うべきだと主張した。モントリオール大学のデビッド・クルーガー氏は、外部評価を盛り込んだ点を認めつつ、合意内容は曖昧だと評した。

同じくAl Jazeeraの取材に、Asia Society Policy Instituteのアルビン・ワン・グレイリン氏は、原則を作る企業側が監査人も雇う仕組みへの懸念を示した。一方、デビッド・サックス氏は、実現が難しい国際合意を追うより今回の合意がよいと擁護した。議論の焦点は、外部評価者にどこまで調査を認め、確認した問題をどう是正するかにある。

フィンランド大統領府が公表した国際共同声明には、9月30日時点で26カ国の首脳らと欧州委員会委員長が名を連ねる。声明は、提供前の試験と独立評価、重大な安全上の事案の情報共有、国際的な基準の検討を求めた。米国と中国は署名者に含まれていない。

元記事: Rogue AI Agents Hacked Healthcare Before Six Tech Giants Pledged to Self-Police AI Safety