インド政府、Metaのディープフェイク検出能力を追及——3時間削除ルールに技術的壁、ウォーターマークは悪意ある偽動画に無力

インド政府はMetaに対し、ディープフェイクや児童虐待コンテンツの検出・削除に関する技術的な対応能力について追及を強めている。焦点となっているのは、2026年2月に施行された「3時間以内の合成コンテンツ削除」という厳しい基準を、Metaの現在のシステムが満たせるかどうかだ。多言語対応や外部AIで生成されたコンテンツの検出に課題が残るなか、Metaのインド市場における事業継続を左右する重要な局面を迎えている。

■インドの技術監査で実際に問われたこと

法的および政治的な対立が2日間続いた後、インド電子情報技術省は8月7日、追及の焦点を変え、ディープフェイクや児童虐待コンテンツの失敗の核心にある技術的な問題についてMetaを問い詰めた。Metaがインドの「3時間以内の合成コンテンツ削除」基準に従うべきかどうかではなく、同社の検出システムが技術的にそれを満たせるかどうかが問われたのだ。Metaは解決策があり、その展開方法を詳細に説明したと回答したが、規制当局は来週中にフォローアップの会議を予定している。

政府関係者が「集中的な尋問」と呼んだ最初の2日間に続き、「技術的」と表現された今週3回目の会議では、インドが7月からMetaに回答を求めてきた3つの具体的な検出・コンプライアンスの不備に焦点が当てられた。

1つ目はコンテンツの再出現だ。フラグが立てられた後もAI生成の有害動画が再び現れて拡散し続ける理由をインドは問いただした。これは、2026年2月20日に発効したインドの情報技術（仲介業者ガイドラインおよびデジタルメディア倫理規定）改正規則2026が求めるプロアクティブな検出と、事後的な削除対応との間のギャップを示すものである。

2つ目はラベルのない合成コンテンツだ。IT規則2026では、合成生成されたすべての情報に公開前に目立つラベルと永続的な出所メタデータを付与することが義務付けられているにもかかわらず、出所ラベルのないAI生成動画がプラットフォーム上で引き続き表示されている理由について、政府はMetaを追及した。

3つ目はモデレーションの言語対応能力だ。政府は、コンテンツモデレーションのプロセスにおいて、「インドの言語に対する認識と理解の向上」および現地の文化的ニュアンスを把握できる人間の監視を強化するよう要求した。これは、Metaの現在のアーキテクチャにおける文書化された技術的限界を具体的に指摘する要求である。

IT規則2026を起草し、2026年2月のAIインパクトサミットでインドの「ニューデリー・フロンティアAIコミットメント」を発表し、2026年6月には「AIの世界はIT法が制定された2000年当時とは大きく異なる」としてAI特化の新たな立法を求めたアシュウィニ・ヴァイシュナウIT相が、S・クリシュナンIT省次官とともに政府代表団を率いた。Meta側の代表団は、ジョージ・W・ブッシュ政権下でホワイトハウスの政策担当次席補佐官を務め、2011年にワシントンでのロビー活動拡大のためにFacebookに入社し、2025年1月からMetaのトップグローバルポリシー責任者を務めるジョエル・カプラン最高グローバル問題責任者が率いた。

PTI通信が報じた政府関係者の話によると、Metaは具体的な対策を講じて結果を報告するよう求められており、当局は定期的に進捗状況をフォローアップするという。来週中にもさらなる会議が予定されている。

■インドの「3時間ルール」が最も危険なディープフェイクを捕捉できない理由

インドのIT規則2026における3時間の削除期限は、合成メディアに対するプラットフォームのコンテンツ義務として世界で最も厳しいものである。これは一般的な36時間の削除期限に代わるもので、仲介業者に対し、裁判所の命令や政府の通知を受け取ってから3時間以内にコンテンツを取り込み、審査し、削除を実行する24時間体制のプロセスを義務付けている。期限を守れなかったプラットフォームは、ユーザー生成コンテンツに対するパブリッシャーレベルの責任から保護するインド情報技術法第79条に基づくセーフハーバー保護を失うリスクがある。

この期限を満たすには、2つのことが同時に機能する必要がある。有害な合成コンテンツが識別可能であること（出所システムによってフラグが立てられるか、分類器によって捕捉されるか）、そして削除プロセスが通知から3時間以内に実行されることである。最初の要件について、Metaの現在のインフラストラクチャには構造的なギャップがあることが文書化されている。

2026年7月にローンチされたMetaの「Content Seal」は、同社のVideoSeal/PixelSealエンコーダー技術を使用して目に見えない出所ウォーターマークを埋め込むが、これはMeta独自のAIツール（ローンチ時点では具体的にMuse Image）で生成されたコンテンツにのみ機能する。Engadgetがローンチ時に報じたように、Content SealはMeta AIで作られた画像に独自のウォーターマーク技術を使用している。Content Sealのアーキテクチャの独立した分析で確認されているように、Content Sealは、商業利用されている他の2つの主要な出所アーキテクチャであるGoogle DeepMindのSynthIDやC2PA Content Credentials標準とは相互運用性がない。Meta独自のAIエコシステム外で生成されたディープフェイク（政治的な偽情報発信者がMeta AIを使用してディープフェイクを生成し、プラットフォームに申告することはないため、敵対的な動機に基づくすべての合成コンテンツが含まれる）については、出所ベースの検出レイヤーは機能的に存在しない。

Adobe、Arm、BBC、Intel、Microsoft、Truepicが共同設立したC2PA（Coalition for Content Provenance and Authenticity）標準は、申告された出所を追跡するように設計されており、偽造を検出するものではない。C2PA対応ツールで生成されたディープフェイクには、AI生成を宣言する有効なマニフェストが付与される。他のツールで生成されたディープフェイクにはマニフェストが一切なく、出所検証では署名のない本物のコンテンツと区別がつかない。truescreen.ioのC2PA分析が詳述しているように、この標準の根本的な限界は、認証情報がないことが真正性を示すわけではないということだ。インドの政治家や著名人を標的としたディープフェイクのほとんどは、C2PAエコシステム外の独立したツールで生成されているため、paladintech.aiのC2PA検出分析が明らかにしているように、IT規則2026が最も緊急に対処しようとしているまさにそのケースにおいて、出所標準が提供する保護は限定的である。

これにより、GANのアーティファクト、照明の不整合、顔の形状の異常を検出するシステムであるAIベースの分類器が、最後の検出レイヤーとして残される。ディープフェイクのフォレンジック研究で文書化されているように、これらのシステムは生成技術との継続的な敵対的軍拡競争に直面しており、2026年現在、英語以外の言語コンテキストでは依然として信頼性が低い。

■インドの言語は依然としてMetaのモデレーションの及ばない領域

「インドの言語に対する認識と理解の向上」という政府の要求は、インド最大のプラットフォームが解決を約束しただけでは解決できない問題を名指ししている。MediaNamaが分析したFinancial Timesの報道によると、Metaは現在、人間のレビューリクエストの約50%を大規模言語モデルに置き換えており、この数字は2026年末までに一部のコンテンツタイプで90%を超える可能性がある。

グローバルサウスにおけるMetaのモデレーションに関するCambridge Forum on AIの論文によると、多言語モデルは、中・低リソース言語よりも高リソース言語（主に英語）で大幅に優れたパフォーマンスを発揮し、研究者らはこのギャップをトレーニングデータの可用性の格差に起因するとしている。インドのコンテキストでは、3つの失敗モードが際立っている。AIシステムは、同等の英語コンテンツと比較してヒンディー語の有害性を過小評価する。機械翻訳システムは、投稿が口語的ではなく暴言であるかどうかを決定するスラング、イディオム、文化的コンテキストを失う。そして、ヒンディー語と英語、タミル語と英語などの組み合わせで投稿するインドのユーザーの間で一般的な、単一のメッセージ内で言語を混在させるコードミキシングの慣行は、単一言語のコーパスでトレーニングされたNLP分類器を機能不全に陥らせる。これら3つの失敗モードはすべて、MediaNamaのインド言語モデレーション分析で文書化されている。

インドの憲法は22の指定言語を認めており、ユーザーは日常的にそれらを組み合わせてコミュニケーションをとっている。現在展開されているMetaの自動化システムには、このコンテンツを確実にモデレーションできる確認済みの機能はない。インド言語の感度を備えた人間の監視を求める政府の要求はこれを認めているが、プラットフォームの苦情システムが「自動化された手段のみに基づいて」実行されないことを義務付ける欧州連合のデジタルサービス法（第20条第6項）とは異なり、インドのIT規則2026には、モデレーションパイプラインのいかなる時点においても人間のレビューを義務付ける規制上の要件は含まれていない。

■謝罪からアーキテクチャへ：今週の協議がもたらしたもの

今週の対立は、ナレンドラ・モディ首相が7月23日に自身のInstagramアカウントに、その後Facebookに自撮り動画を投稿したことから始まった。7月27日の夜（インド標準時7月28日午前12時30分頃、東部標準時7月27日午後3時）、Facebookの投稿は約5時間にわたって制限され、ユーザーには法的な要請を引用した通知が表示された。Metaはこの制限をアルゴリズムのエラーによるものとし、投稿を復元した。

この制限は全面的な規制上の対立へと発展した。インド議会の通信・情報技術常任委員会は、Metaのマーク・ザッカーバーグCEOに対し、今日（8月8日）を期限とする3日間の猶予を与え、個人的な書面による謝罪を提出するか、IT法第79条に基づくセーフハーバー保護の正式な撤回に直面するかの選択を迫った。

8月6日の最初のセッションで、Metaはカプラン氏の会社を代表する書面による声明を通じて、モディ首相の動画制限、有料のInstagram広告に児童の性的虐待素材が表示された問題、およびディープフェイクの拡散について謝罪した。PTIが引用した政府関係者は、マーク・ザッカーバーグCEOも謝罪の意を伝えたと別途述べている。また、政府関係者によると、Metaは特定のカテゴリーのコンテンツをブーストするために「多額の資金が支払われた」ことを認めた。これは、インドが適用している法的枠組みにおいて、パブリッシャーとしての再分類の議論を深めるものである。つまり、有料の増幅はアルゴリズムの中立性ではないということだ。

8月7日、政府はMetaに対し、フラグが立てられた後も有害なAI生成動画が再び現れる理由、IT規則2026の義務にもかかわらずラベルのないAI生成動画が表示され続ける理由、そしてMetaのモデレーションシステムがヒンディー語、タミル語、テルグ語、およびインドのその他の指定言語のコンテンツを判定できるかどうかについて具体的に追及した。政府はMetaに具体的な対策を講じて結果を報告するよう求めており、当局は定期的に進捗状況をフォローアップする予定である。

■Metaにとって最も重要な規制上の試金石としてのインド

インドは、ユーザー数においてMetaの最大の単一国家市場である。Facebookは3億7000万人以上のインドのアクティブユーザーを抱えている。Instagramのインドのユーザーベースは4億8000万人を超えている。WhatsAppはインドに最大の国家基盤を持っており、プラットフォームの30億人のグローバルユーザーの約6分の1が居住している。法律専門家は、Metaがセーフハーバー保護なしにインドで事業を展開することはほぼ不可能だと説明している。

IT規則2026は、規制と2023年デジタル個人データ保護法の枠組みを組み合わせて、違反1件につき最大250クロールルピー（約2630万ドル、約41億5500万円、1ドル=158円換算）の罰金を科す。財務上のリスクを超えて、コンテンツフィードのアルゴリズムによるキュレーションは送信の受信者の選択を構成し、第79条に基づく仲介業者の地位を剥奪するという政府の正式な立場は、その理論がまだインドの裁判所で裁定されていないにもかかわらず、現在規制上の記録に残っている。最高裁判所の2015年のShreya Singhal対インド政府の判決は依然として支配的な判例である。仲介業者がセーフハーバーを失うのは、議会委員会の書簡を通じてではなく、実際の裁判所命令または有効な第69条Aの政府通知を受け取った場合のみである。

この対立に対するインドのアプローチがグローバルなプラットフォームガバナンスについて示唆することは、単一の週の協議の結果よりも重要とも言えるだろう。インドは、セーフハーバーの撤回によって3時間の合成コンテンツ削除を強制力のあるものにした最初の政府である。Metaが開示したアーキテクチャが実際にその基準を満たすことができるかどうか、特に英語以外の言語で敵対的に作成されたディープフェイクについて、双方が現在約束しているフォローアップセッションでテストされることになる。異なる規制体制のために別々の製品パイプラインを構築することは運用上コストがかかるため、インド市場向けに構築されたコンプライアンスアーキテクチャは、グローバルプラットフォームが世界中で合成コンテンツをどのように処理するかを事実上形作る可能性がある。

■今後の展開

8月7日にPTIに述べられた政府の立場は、「持続的な対策、行動、改善を行うよう同社に引き続き圧力をかける」というものである。この言葉は、閉ざされた政治的イベントではなく、継続的な監督関係を示唆している。来週中にもフォローアップの会議が予定されている。8月7日にインドが追及した内容に基づくと、その議題には、インド言語の検出機能に関するMetaの進捗状況、フラグが立てられた合成コンテンツの再出現パイプライン、およびMetaが展開を約束した具体的な出所とラベル付けの対策が含まれる可能性が高い。

Metaにとって、戦略的な計算は明確である。カプラン氏の大西洋横断の旅は外交的なジェスチャーではなく、運用上の必要性であった。最大の単一国家市場で大規模な事業を継続できるかどうかは、現在のContent Sealや多言語NLPインフラストラクチャではまだ満たしていない、インドの法律が要求するエンジニアリング基準に自社のシステムが到達できると規制当局を納得させられるかどうかにかかっている。

■注目ポイントQ&A

●インドのIT規則2026とは何ですか？なぜ3時間の削除期限が重要なのですか？

インドの情報技術（仲介業者ガイドラインおよびデジタルメディア倫理規定）改正規則2026は、2月10日に通知され、2月20日に発効した、AI生成の合成メディアに対するインド初の運用フレームワークです。AIを使用して実在の人物や出来事と区別がつかないように作成された音声、視覚、または視聴覚コンテンツを「合成生成情報」と定義し、プラットフォームに対し、政府の通知または裁判所の命令を受け取ってから3時間以内に、フラグが立てられた有害なディープフェイクを削除することを義務付けています。この3時間の枠は、一般的な36時間の削除期限に代わるものであり、現在、世界中のどの政府が課す合成コンテンツのコンプライアンス義務よりも厳しいものです。期限を守れなかったプラットフォームは、ユーザー生成コンテンツに対する直接的な責任から保護するIT法第79条に基づくセーフハーバー免責を失うリスクがあります。

●MetaのContent Seal技術があっても、すべてのディープフェイクを検出できないのはなぜですか？

2026年7月にローンチされたMetaのContent Sealは、Meta独自のAIツール（ローンチ時点では具体的にMuse Image、動画対応は今後予定）で生成されたコンテンツに目に見えないウォーターマークを埋め込みます。しかし、Engadgetの報道にもあるように、Metaのエコシステム外のツールで作成されたディープフェイクは検出できず、GoogleのSynthIDや他社が使用しているC2PA Content Credentials標準との相互運用性もありません。インドの規制枠組みが最も緊急の標的としている政治的な偽情報コンテンツや非合意の画像など、敵対的な動機に基づくディープフェイクのほとんどは、出所マーカーを一切埋め込まない独立したAIツールによって生成されています。そのような場合、検出システムはコンテンツ自体を分析して偽造の兆候を探るAI分類器に頼らざるを得ませんが、これは技術的に困難な問題であり、3時間の削除要件が求める規模と速度において、英語以外の言語のコンテンツでは未解決のままです。

●インドはインド言語のコンテンツモデレーションについて具体的に何を要求しましたか？また、Metaはそれを満たすことができますか？

インド政府はMetaに対し、「インドの言語に対する認識と理解の向上、および現地のニュアンスを把握できる、コンテンツモデレーションプロセスにおける人間の監視の強化」を求めました。これは文書化された技術的ギャップに対処するものです。多言語コンテンツモデレーションモデルは、英語以外の言語では英語よりもパフォーマンスが大幅に劣り、システムがヒンディー語の有害性を過小評価することや、インドのユーザーに一般的なヒンディー語と英語、またはタミル語と英語を混在させるコードミキシングが、単一言語データでトレーニングされたNLP分類器を機能不全に陥らせることが研究で示されています。一方でMetaは人間のモデレーションを減らしており、人間のレビューの約50%を大規模言語モデルに置き換え、2026年末までに一部のコンテンツタイプで90%の自動化を目指しています。EUのデジタルサービス法とは異なり、インドのIT規則2026にはモデレーションプロセスのいかなる時点においても人間のレビューを義務付ける規制要件は含まれていないため、人間の監視の要求は規制上の希望であり、Metaがセーフハーバーを維持するために満たさなければならない法的義務ではありません。

●第79条のセーフハーバーとは何ですか？それを失うことはインドにおけるMetaにとって何を意味しますか？

インド情報技術法第79条は、ソーシャルメディアプラットフォームに対し、デューデリジェンス義務を果たし、違法コンテンツの削除を求める裁判所命令や政府通知に従うことを条件として、ユーザーが投稿したコンテンツに対するパブリッシャーレベルの責任からの条件付き免責を与えています。今週の協議でインドが正式に提起した、コンテンツフィードのアルゴリズムによるキュレーションは編集上の選択を構成するという法的理論に基づき、Metaがパブリッシャーとして再分類された場合、同社はインドのプラットフォーム上のすべての有害コンテンツに対して直接責任を負うことになります。インドにおけるFacebook、Instagram、WhatsAppのコンテンツ量を考慮すると、その責任リスクは運用上持続不可能です。法律専門家は、パブリッシャー再分類の理論は現在正式な規制記録に残っているものの、インドの裁判所で裁定されたことはなく、規制上の圧力ではなく法的手段を通じてこの理論を施行するには、2015年の最高裁判所の判例（Shreya Singhal対インド政府）を見直すか覆す必要があると指摘しています。

元記事: India Presses Meta on Deepfake Detection; Watermark Misses Hostile Fakes