米軍、AIが誤認した情報で中国船への臨検寸前に 独立検証を欠く運用の危険
2026年9月23日 15:11
CNNが9月18日に報じたところによると、米軍はAIを使って作成された誤った情報報告書を基に、中東を航行する中国船への臨検を準備していた。武装要員が乗船の準備を進め、支援する軍用機も離陸していたが、船の積み荷に関する情報が誤りだと判明し、作戦は実行直前に中止されたという。
報告書には、中国船が核兵器計画に関連する部品を輸送していると記されていた。CNNが取材した事案を知る情報筋は、報告書の内容を「完全に誤りだった」と説明した。船が実際に何を積んでいたかや、どこへ向かっていたかは公表されていない。
■AIの分析結果が情報報告書として流通
事案は、米国とイランが交戦していた2026年春に起きた。米特殊作戦軍の分析官が、中国船の積み荷に関する公開情報と政府が保有する機密の通信情報をAIチャットボットで分析したところ、核兵器計画に関連する部品を運んでいるとの誤った結論が生成されたという。
分析官は同じAIを再び使い、その結論を標準的な情報報告書の形式にまとめた。文書は軍の指揮系統内で共有され、中国船を阻止するための作戦準備につながった。
問題となったのは、人間が作業に関与していながら、AIが導いた個別の結論を別の情報源や経路で裏付ける工程が機能しなかったことだ。AIによる分析と文書作成が連続して行われ、誤った判断が正式な報告書の外形を備えて流通した。
情報報告書の書式は、内容が分析や検証を経たものであるとの印象を読み手に与える。生成AIに分析だけでなく文書の整形も担わせれば、根拠が確認されていない結論にも、組織内で信頼されやすい外形が与えられる危険がある。
■流暢な文章と事実の正しさは別問題
大規模言語モデルには、もっともらしいが事実と異なる文章を生成する「ハルシネーション」と呼ばれる問題がある。誤った内容でも自然な文章や整った書式で提示されるため、クラッシュや警告表示のように、誤りが明確に表れるとは限らない。
OpenAIの研究者らが2025年9月に発表した研究は、事前学習で統計的な誤りが生じることに加え、一般的な評価方法が不確実性を認める回答よりも推測を促し、ハルシネーションを残存させる一因になると論じた。これは、すべての誤出力が同じ原因で起きるとの結論ではなく、学習と評価の仕組みに由来する要因を分析したものだ。
公開情報には誤情報や意図的な偽情報が含まれる場合があり、通信情報も断片的で、十分な文脈を欠くことがある。AIが複数の資料から一貫した説明を生成できても、その結論が各資料によって裏付けられているとは限らない。
軍事情報の分析では、個々の情報の出所や信頼性を評価し、欠けている文脈や結論に反する証拠も調べる必要がある。今回の事案は、情報を統合して報告書を作る作業と、その内容を独立した証拠で検証する作業を分ける必要性を浮き彫りにした。
■軍全体で異なるAIの運用基準
CNNの取材に応じた複数の米政府当局者によると、軍の部門や機関は、それぞれ異なる命令や安全基準の下でAIツールを使用している。報道時点では、AIが生成した情報分析を配布する前に独立検証を一律に義務付ける、国防当局全体の標準手順はないという。
事案を知る情報筋の1人は、AIが関係するこの種の誤りが、チャットボットの政府機関や情報機関への普及に伴う「米軍における傾向の一部」になっているとCNNに語った。元米政府高官は、内部で使われるAIツールの多くを「口紅をつけた商用製品のコピー」と表現した。
AIガバナンス研究機関GovAIの研究者で元米陸軍士官のJake Stecklerは、大規模言語モデルに内在する不確実性を軍関係者が理解する必要があると指摘した。標的の選定、情報分析、作戦立案など、武力行使につながり得る判断では特に重要だとしている。
Stecklerは、軍事分野でのAI利用そのものを否定していない。適切な用途と安全策の下では有用になり得る一方、導入速度を優先し過ぎれば、軍関係者の信頼を損なう事案が起き、結果的に導入を遅らせかねないと述べた。
■米国防当局が進めるAI導入の加速
米国防当局は2026年1月、軍を「AIファースト」の戦闘組織へ転換するAI加速戦略を発表した。戦略は、主要なAIモデルを組織内で広く実験し、導入を妨げる官僚的な障壁を取り除くことなどを掲げている。
戦略には7件の先導プロジェクトが盛り込まれた。このうち「Agent Network」は、作戦立案からキルチェーンの実行まで、戦闘管理と意思決定支援にAIエージェントを利用するための開発と実験を進める計画である。
キルチェーンは、対象の発見、位置の確定、追跡、目標選定、攻撃、効果判定という一連の過程を指す。AIによって情報整理や判断支援を高速化できる一方、基礎となる情報や結論が誤っていれば、その誤りも短時間で指揮系統を進む可能性がある。
CNNの情報筋の1人は、この問題を「AIを使えば、悪い考えにより早く到達できる」と表現した。分析速度を実際の優位につなげるには、AIが示した根拠を確認し、反対の証拠を探し、独立した情報源と照合する時間を作戦手順に組み込む必要がある。
■意思決定時間の短縮がもたらす誤算のリスク
ストックホルム国際平和研究所は2025年6月、軍事AIが核エスカレーションのリスクに及ぼす影響を分析した。核兵器に直接組み込まれない用途でも、軍事AIが意思決定に使える時間を短縮し、危機時の誤算のリスクを高める可能性があると指摘している。
同研究所は、AIを使った意思決定支援システムの不透明な提案が、意思決定者を行動へ傾ける可能性にも言及した。一方、軍事AIが常に危機を悪化させると結論付けたものではなく、どのような社会的、技術的条件でリスクが生じるかを検討している。
今回の事案では、AIが関係した情報報告書が、武装要員と軍用機を伴う臨検の準備につながったと報じられている。作戦は中止されたものの、誤った情報が実際の作戦判断へ移される経路と、検証に使える時間が限られる危険を具体的に示した。
■米中がAI事案の連絡体制を協議
中国の習近平国家主席は、9月24日にホワイトハウスでDonald Trump米大統領と会談する予定だ。会談に向けた米中の事前協議では、貿易問題とともにAIに関する両国間の対話が取り上げられた。
Scott Bessent米財務長官は、中国の何立峰副首相との協議後、国家安全保障上の問題に発展し得るAI関連事案について、両国が連絡するための通知制度を米国側から提案したと説明した。両国はAIを巡る協議を継続することで一致したという。
今回報じられた中国船を巡る事案が、首脳会談で具体的に議題となるかは明らかになっていない。それでも、AIが生成した誤情報が国家間の軍事的緊張につながり得る事例として、危機時の連絡体制や軍事AIの統制を検討する重要性を示している。
■問われる独立検証の仕組み
今回の事案が提起するのは、軍事分野でAIを使うことの是非だけではない。AIを情報分析に組み込む際、生成された結論を誰が、どの情報を使い、どの段階で独立して確かめるのかという運用設計の問題である。
AIは大量の文章を整理し、複数の資料から読みやすい報告書を作ることができる。しかし、流暢で整った文章を生成する能力と、個々の主張が証拠によって裏付けられていることは同じではない。
人間がAIを操作し、最終的に文書を承認していても、それだけで独立検証が行われたことにはならない。分析と報告書作成を同じAIに担わせる場合には、AIとは独立した情報源による照合と、別の分析官が根拠や不確実性を検討する工程が安全策の中心となる。
元記事: US Military Almost Boarded Chinese Ship Over AI-Hallucinated Nuclear Claim