『攻殻機動隊』と考えるディープフェイク時代の裁判、C2PAが示せることと限界

Prime Videoで配信中の『攻殻機動隊 THE GHOST IN THE SHELL』第9話「BRAIN DRAIN ii」では、船上作戦でテロリストを射殺した草薙素子が、その責任を法廷で問われる。何者かの謀略によって事件が報道されるなか、草薙はゴラントル諜報部が背後で動いていると推測し、独自に捜査を進めていく。

この展開を読み解く補助線になるのが、AI時代の映像証拠をどう扱うかという現実の議論だ。米国では機械生成情報やディープフェイクを想定した証拠規則が検討されているが、AIに特化した新規則はまだ成立していない。一方、デジタルコンテンツの来歴を記録するC2PAにも、映像が示す出来事そのものの真実性までは保証しないという役割上の境界がある。

■草薙を裁判へ導いた映像

第9話は、第8話「INTERMISSION + BRAIN DRAIN i」から直接続く。人形使いへのダイブを終えて目覚めた草薙は、その後も人形使いの気配を感じるようになる。船上でテロリストを制圧する作戦では、リーダーを誤って射殺してしまった。

第9話では、この一件が何者かの謀略によってマスコミに報じられ、草薙はテロリスト殺害の罪を問われる。草薙はゴラントル諜報部が裏で糸を引いていると推測して捜査を続けるが、やがて裁判にかけられることになる。

ここで問題になるのは、映像が合成されたかどうかだけではない。同じ映像でも、撮影前後の経緯や提示方法、添えられた説明によって受け手の理解は変わる。記録された行為が本物であっても、その一部分だけを取り出せば、出来事全体とは異なる印象を形成できる。

第9話の映像は、草薙が発砲したという行為を示す一方、その判断に至った状況や、人形使いへのダイブ後に生じていた認知上の変化まで自動的に説明するものではない。映像の真正性と、映像から導かれる意味は別々に検討する必要がある。

■米国で続くAI生成証拠の規則整備

米国司法会議の証拠規則諮問委員会では、機械生成情報やAIによって作られた偽の証拠に対応するための規則が検討されている。

規則707案は、専門家証人を伴わずに提出される機械生成情報について、連邦証拠規則702を参考にした信頼性要件を課す構想である。機械が生成した結果を証拠として用いる側に対し、十分な事実やデータに基づき、信頼できる原理と方法が適切に適用されたことを示すよう求める。

もっとも、この構想が主に対象とするのは、提出者自身が機械生成情報として扱う証拠である。映像は本物だと主張する側と、AIによる捏造だと疑う側が対立する場面は、異なる認証上の問題を生む。

こうしたディープフェイクへの対応として、真正性に関する連邦証拠規則901の枠内で、裁判官が証拠の信頼性を事前に判断する仕組みも検討されている。一般に「規則901(c)」と呼ばれる構想だが、2026年5月時点では正式な改正案として確定した段階ではなく、諮問委員会が今後も研究を続ける対象に位置付けられている。

規則707案についても、諮問委員会は2026年5月に最終承認へ進めることを見送り、文案を修正したうえで追加検討を続ける方針を示した。このため、2026年9月時点でAI生成・操作コンテンツだけを対象とする新たな連邦証拠規則は施行されていない。実際の事件では、既存の真正性、専門家証言、関連性などの規則を組み合わせて判断することになる。

第9話が描くような、実際の行為を記録した映像から文脈が失われ、別の物語の形成に使われるケースは、合成映像の検出だけでは解決しない。誰が、どの段階で、どの情報を付けて映像を提示したのかまで含めた検討が必要になる。

■C2PAが記録するコンテンツの来歴

デジタルコンテンツの出所と編集履歴を確認しやすくする技術として開発されているのが、C2PAのオープン技術標準「Content Credentials」である。

C2PAでは、対応するカメラや編集ソフト、生成AI、配信システムなどが、コンテンツの作成方法や編集内容に関する情報をマニフェストとして記録し、電子署名によってコンテンツと結び付ける。編集後に新たなマニフェストを追加することで、作成から加工までの履歴を連鎖的に示すこともできる。

この仕組みを利用すれば、対応機器で作成されたこと、どのソフトウェアで編集されたか、署名後のデータと記録された内容の整合性が保たれているかといった来歴情報を確認できる。署名済みのデータを記録に合わない形で変更すれば、検証時に問題を検出できる可能性がある。

一方、C2PAが示す中心的な情報はコンテンツの来歴であり、撮影された出来事が現実を正しく表しているかという判断そのものではない。正規の機器と有効な証明書を使って記録された映像であっても、撮影対象が演出されている可能性や、画面に表示した別の映像を撮り直している可能性、重要な場面が撮影範囲の外にある可能性までは排除できない。

また、映像を切り出して提示したり、説明文や報道の文脈を変えたりする行為は、映像そのものを合成しなくても受け手の認識に影響を与える。C2PAの来歴情報は判断材料を増やすが、映像からどのような結論を導くべきかは、周辺証拠や証言、撮影状況などと併せて評価する必要がある。

■独立分析が指摘したC2PAの技術的課題

2026年4月、メリーランド大学ボルティモア郡校などの研究者11人は、C2PA仕様と実装に対する独立セキュリティ分析を公表した。研究チームはバージョン2.2の仕様、複数の検証ツール、適合性評価制度を対象とし、C2PAの中核プロトコルを形式手法でも分析した。

分析では、署名された主張の内容について生成側と検証側が一致できても、信頼できるタイムスタンプについて同じ保証が成立しない問題が示された。競合するタイムスタンプを成立させる余地があり、コンテンツがいつ署名されたかという来歴に疑義を生じさせられるという。

研究チームは、証明書失効の扱い、検証ツールによる判定の不一致、一部データを署名対象から除外できる範囲などにも問題があると報告した。既知の漏えい証明書で署名されたマニフェストを検証ツールが受け入れた事例も挙げ、当時の仕様と適合実装は、研究チームが整理したセキュリティ目標を十分には満たしていないと結論付けている。

一部の改善提案はC2PAバージョン2.3や対応機器の実装に取り入れられた。C2PA側もその後、検証方法や改ざん検出を更新しており、公式仕様は改訂が続いている。それでも、法的証拠や報道、財務開示のように誤りの影響が大きい用途では、Content Credentialsの表示だけで判断を完結させず、署名証明書、検証方法、元ファイル、周辺情報を含めて確認することが重要になる。

第9話との共通点は、映像の信頼性を一つの印だけで決められないことにある。撮影、署名、編集、配信、報道、法廷での提示という各段階を追跡できて初めて、映像がどのような経路で現在の形になったのかを評価できる。

■変容した認知と草薙の責任

第9話では、映像証拠の問題と並んで、発砲時の草薙の認知状態も重要になる。人形使いへのダイブ後、草薙はその気配を感じ続け、自身の判断と外部から入り込んだ影響との境界が揺らいでいる。

この設定を考える手掛かりの一つとして、脳への介入が意思決定や自己認識に及ぼす影響を扱う神経倫理研究がある。脳深部刺激療法は、脳の特定部位に電極を留置して電気刺激を与える治療法であり、パーキンソン病などに用いられている。研究では、一部の患者に気分、衝動性、意思決定、自己の感じ方などの変化が報告されてきた。

こうした変化から直ちに法的責任の減免が決まるわけではない。重要なのは、ある行動を本人の意思としてどのように評価するかという問いが、行動時の認知能力、制御能力、治療との因果関係、本人が変化を認識していたかといった複数の要素に関わることである。

2016年に学術誌『Neuroethics』へ掲載された研究では、脳深部刺激療法のような神経学的介入によって生じた行動変化について、精神状態が形成された経緯を考慮すれば、一定の条件下で道徳的責任が弱まる可能性が論じられた。これは法廷で一律に適用できる基準ではなく、神経への介入と責任の関係を考える哲学的な枠組みである。

草薙の状況は、治療のための電気刺激ではなく、人形使いとの電脳的な接触によって自己と他者の境界が変化するという作品固有の設定だ。それでも、行為者の内部状態が外部から変えられたとき、その後の判断を誰の意思として扱うのかという共通の問いを見いだせる。

■過去の精神状態を脳画像で示す難しさ

刑事裁判では、現在の脳の状態だけでなく、事件が起きた時点で被告人がどのような精神状態にあったかが問題になる。ここには時間的な隔たりがある。

米マサチューセッツ州最高裁判所が2025年に判断したCommonwealth v. Chism事件では、被告人の精神疾患に関連するとされた構造的MRI画像について、証拠としての価値が限られ、陪審員を混乱させる危険があるとして、第一審による排除が維持された。脳画像に異常が見えることと、過去の特定の瞬間に必要な判断能力が失われていたことは同じではない。

脳画像は、撮影時点の構造や活動を調べる手段である。事件時の意思や認識を評価するには、行動記録、証言、診療記録、事件前後の状況など、ほかの情報との組み合わせが欠かせない。

第9話では、映像が草薙の外から観測できる行為を記録し、人形使いとの接触が彼女の内面に影響を残している。外部から見える行為と、その瞬間の内的状態をどう結び付けるかという二重の難題が、裁判の緊張を生み出している。

■円城塔の脚本を読み解く形式体系という補助線

シリーズ構成と脚本を担当する円城塔は、数学や情報科学の概念を取り込んだ作品で知られる。「BRAIN DRAIN」編も、既存の制度が想定していない問題に直面したとき、制度内の規則だけで結論を導けるのかという読み方ができる。

ゲーデルの第1不完全性定理は、一定の条件を満たす形式体系には、その体系の内部では証明も反証もできない命題が存在することを示した数学上の定理である。これを刑事裁判へそのまま適用できるわけではないが、第9話が描く行き詰まりを捉える比喩的な補助線にはなる。

草薙の裁判では、映像の来歴、失われた文脈、行為時の認知状態、外部からの影響と本人の意思の境界を同時に評価しなければならない。既存の証拠規則や責任概念だけでは整理しにくい要素が重なることで、法廷は単純な有罪・無罪の判断を超えた問題へ導かれていく。

■『攻殻機動隊』が問い続けてきた証拠と自己

士郎正宗による原作漫画『攻殻機動隊』は、ネットワークにつながった脳と義体、複製・変更される情報、自己と他者の境界を扱ってきた。情報が人間の認識や制度を動かす社会では、記録が存在することと、その記録が出来事の全体を語ることは同じではない。

新シリーズ第9話は、このテーマを映像証拠と刑事責任の問題へ接続している。映像が改ざんされているかだけでなく、誰が記録し、どの文脈で提示し、その映像が捉えられない内面を法廷がどう評価するかを問い掛ける。

現実のC2PAは、コンテンツの作成・編集履歴を追跡しやすくするという点で、この問題に重要な情報を加える。一方で、来歴情報、映像の内容、提示された文脈、出来事の意味は別々の層に属する。第9話は、それらを一つの「証拠」という言葉だけで処理することの難しさを、草薙の裁判を通じて浮かび上がらせている。

『攻殻機動隊 THE GHOST IN THE SHELL』第9話「BRAIN DRAIN ii」はPrime Videoで配信中である。

元記事: Ghost in the Shell Ep 9: C2PA, Industry’s Deepfake Fix, Failed Its Own Security Audit