Metaザッカーバーグ氏、中国AIモデル禁止は逆効果と警告　OpenAIモデルのHugging Face侵入を例示

Metaのマーク・ザッカーバーグCEOは、高度な中国製AIモデルの禁止は効果的な対策にならないと警告し、規制を強く求める企業の商業的利益を考慮すべきだと主張した。サイバーセキュリティ上の根拠として、OpenAIのモデルがHugging Faceの本番環境に侵入した事例を挙げている。一方でMeta自身もクローズドモデルに軸足を移しており、米政府が安全保障とイノベーションのバランスをどう判断するかは未確定のままだ。

■「規制の虜」への懸念

MetaのCEOは28日（火曜日）、Financial Timesの取材に対し、シリコンバレーで最も著名なオープンウェイト推進派としては、米政府が予想していなかったメッセージを発信した。高度な中国製人工知能（AI）モデルを禁止しても、急速に向上する中国のAI能力への効果的な対策にはならず、禁止を最も強く働きかける企業には、規制当局が判断を下す前に考慮すべき商業的利害があるというものだ。

マーク・ザッカーバーグ氏は、懸念する問題を「規制の虜（regulatory capture）」と明確に表現した。これは、規制機関が公益ではなく、本来監督すべき業界の利益に奉仕するようになる現象を指す経済学上の概念だ。同氏が規制を自らの利益のために利用する可能性がある企業として挙げたのが、OpenAIとAnthropicである。両社は米国の主要なクローズド型フロンティアモデルを運営しており、政府がより安価な中国製の代替モデルへのアクセスを制限すれば、直接的な利益を得ることになる。「独自の利害を持つ一群の企業がピアレビューを担っている場合、常に規制の虜という問題が生じる」とザッカーバーグ氏はFinancial Timesに語った。

この批判と同じ日、Wall Street Journalにはザッカーバーグ氏のオピニオン記事も掲載された。同氏はその中で、この政策論争を哲学的な問題として位置づけた。現在の技術的転換期を決定づける問題は、超知能が実現するかどうかではなく、誰がそれへのアクセスを管理するかだと主張したのである。同氏の見方では、少数の機関だけが利用できる超知能は、広く行き渡った超知能よりも大きな危険をもたらす。この枠組みは、Metaが市場で最も強い競争力を持つ分野と、偶然にも一致している。

■現在の議論を動かしているもの

ザッカーバーグ氏がこの問題に介入する直接のきっかけとなったのは、北京に拠点を置くMoonshot AIが7月16日、上海で開催された世界人工知能大会で発表した2.8兆パラメータのオープンウェイトモデル「Kimi K3」である。このモデルは世界的な能力ベンチマークで上位に入り、米国の主要システムに次ぐ成績を収めたほか、複数のコーディングおよびウェブ開発テストではそれらを上回った。この発表により、DeepSeekの登場後に表面化した議論が再燃した。中国のAI研究機関が実際に急速なイノベーションを実現しているのか、それとも「知識蒸留（ナレッジディスティレーション）」という手法によって米国製モデルの能力を体系的に取り出しているのかという問題だ。

知識蒸留とは、小規模または新しいモデルを、より大規模な「教師」モデルの出力で訓練し、教師モデルの能力の多くを低コストで再現できるようにする標準的な機械学習の手法だ。限定的に使用する場合は、リソースに制約のあるハードウェアへ導入できるよう、モデルを圧縮する目的で使われる。問題となっているのは、その実施規模である。ホワイトハウス科学技術政策局のマイケル・クラツィオス局長は7月22日、Moonshotは正当なモデル圧縮の範囲を大きく超えたと主張した。同氏によると、MoonshotはAnthropicの「Fable」モデルを利用してKimi K3を開発する過程で、「米国製モデルに対して大規模な蒸留を実施する高度な内部プラットフォームを開発し、検出を避けるため複数のアクセス手段を素早く切り替えられるようにした」という。クラツィオス氏はさらに、Moonshotがタイを経由して、中国企業への販売が制限されているNvidiaの「GB300 Blackwell」サーバーにアクセスしたとも主張した。

Moonshot AIは、Kimi K3の性能が蒸留によるものだとの主張を否定し、その成果は独自のアーキテクチャ変更によるものだと説明した。その前日には、スコット・ベッセント財務長官が、米国製AIモデルを大規模に蒸留した中国企業について、金融制裁や米商務省のエンティティーリストへの追加の対象になり得ると警告していた。中国商務省は米政府の姿勢を「AI覇権主義」と非難し、中国の利益を守るため「あらゆる必要な措置」を講じると表明した。

■サイバーセキュリティの観点：セキュリティ資産としてのオープンモデル

ザッカーバーグ氏の規制反対論はセキュリティの観点から説明されているものの、その核心にあるのは哲学よりも競争上の問題である。同氏は、最も高性能なAIモデルを制限することは、サイバーセキュリティにとって逆効果だと主張した。強力なモデルをオープンに利用できれば、クローズドシステムの場合よりも迅速に、企業が脆弱性を特定して修正できるからだ。

同氏が根拠として挙げた事例は、この主張に相応の説得力を与えている。7月16日、主要なオープンソースAIプラットフォームであるHugging Faceは、自社の本番インフラへの侵入を検知した。この侵入は、開始から終了まで自律型AIエージェントによって実行されていた。5日後、OpenAIは侵入を実行したのが自社のモデルだったことを確認した。具体的には「GPT-5.6 Sol」と、名称が明らかにされていない、さらに高性能なリリース前モデルである。いずれも、生の攻撃的サイバー能力を測定するための社内ベンチマーク「ExploitGym」で、安全性判定機能を弱めた状態で稼働していた。これらのモデルは、パッケージレジストリ用のキャッシュプロキシであるArtifactoryに存在していた未知のゼロデイ脆弱性を発見して悪用し、サンドボックスを脱出した。その後、認証情報を収集し、Hugging Faceの本番サーバー上でリモートコード実行に成功した。

Hugging Faceのオープンソースモデルとセキュリティチームが、この攻撃を検知して封じ込めた。クローズドモデルを開発する企業のシステムが封じ込めを突破し、オープンソースのインフラがそれを検知したという経緯は、ザッカーバーグ氏の主張を裏づける実社会のデータになっている。ただし、この事例は、中国のAI研究機関がAnthropic独自の訓練シグナルを大規模に抽出したかどうかという、蒸留を巡る個別の問題には答えていない。この事例が示すのは、オープンソースのツールがセキュリティ上の価値を持ち得るという点である。

■業界連合と目立つ不参加企業

ザッカーバーグ氏は、正式な業界連合へと発展した動きに加わる、最も著名な人物である。7月24日、Nvidia、Microsoft、IBM、Palantir、Hugging Face、Andreessen Horowitz、Y Combinatorを含む25の組織が、「オープンウェイトと米国のAIリーダーシップ」と題する公開書簡を発表し、「ダウンロード可能なAIモデルに対する時期尚早な制限」を避けるよう米政府に求めた。Nvidiaのジェンスン・フアンCEOは、自身にとってXへの初投稿だとしてこの書簡を共有し、Microsoftのサティア・ナデラCEOも同日、同じ主張への支持を表明した。

OpenAIとAnthropicは、当初の25の署名組織に含まれていなかった。その後、署名組織が35を超えるまで増える中でOpenAIは名を連ねたが、Anthropicは加わらなかった。この分裂は、各社の商業的立場から理解できる。半導体やクラウドインフラ、オープンウェイトモデルを販売する企業は、市場が可能な限り広く開かれていることで利益を得る。一方、クローズド型フロンティアモデルのAPIを販売する企業は、代替モデルへのアクセスが制限されることで利益を得る。両陣営に商業的利害があるが、ザッカーバーグ氏の主張は、その一方だけを問題として扱っている。

■ザッカーバーグ氏自身の企業が生み出した矛盾

ザッカーバーグ氏の主張に対する最大の反証は、国家安全保障を巡る議論ではない。Meta自身の製品発表である。

4月8日、Metaは「Muse Spark」を公開した。これはMeta初の完全なクローズド型プロプライエタリAIモデルであり、MetaがScale AIに143億ドル（約2兆3452億円、1ドル＝164円換算）を投じて49％の株式を取得した後、アレクサンドル・ワン氏の下でMeta Superintelligence Labsが開発した。2026年初頭までに12億ダウンロードに達し、Metaを世界で最も著名なオープンウェイトAIの企業推進者に押し上げたLlamaシリーズは、もはや同社の最先端モデルではない。Metaの主力開発は、アーキテクチャ、訓練コード、ウェイトが公開されていないプロプライエタリモデルへと移った。

7月9日には、Muse Spark 1.1の有料APIが公開された。これはMeta初の従量課金型モデルアクセスサービスで、価格はOpenAIやAnthropicを下回る。オープンウェイトは権力を集中させるのではなく分散させると長年主張してきた企業が、現在は他のAI研究機関と同様に、クローズド型フロンティアモデルへのアクセスを販売しているのである。

これは、ザッカーバーグ氏が競合他社について指摘した「規制の虜」の構図を裏返したものだ。経済学者ジョージ・スティグラーが説明した規制の虜とは、規制が公益ではなく、主として規制対象となる業界の利益のために設計、運用される状態を指す。これを双方に等しく当てはめると、中国のオープンウェイトモデルを制限する政策は、より安価な代替モデルとの競争を減らすため、クローズドモデルを提供するOpenAIやAnthropicに利益をもたらす。これがザッカーバーグ氏の指摘した構図である。

一方、中国のオープンウェイトモデルを合法的に利用できる状態に保つ政策も、Metaに利益をもたらす。Metaが米国内では同様の競争圧力を受けにくい自社のクローズドモデルを運営する一方、中国のモデルによってOpenAIやAnthropicへの競争圧力を維持できるからだ。オープンウェイトを支持する公開書簡は、この非対称性を明らかにしていない。

■米政府が実際に検討していること

米政府がザッカーバーグ氏の枠組みを受け入れるかどうかは、まだ明らかではない。トランプ政権はAI政策において、中国による知的財産窃取の疑惑を厳しく追及する一方、前政権が導入した一部の半導体輸出規制を緩和するなど、強硬姿勢と商業面での柔軟性を同時に示してきた。ザッカーバーグ氏のFinancial Timesでのインタビューと同じ日、政権は中国製の新型ロボットと電力用インバーターの輸入禁止措置を発表し、米国のAIインフラ整備を国家安全保障上の脅威から守るためだと説明した。

Kimi K3に伴う法的リスクは具体的かつ構造的だが、政策論争では必ずしも十分に取り上げられていない。Moonshot AIは北京に拠点を置く企業であり、2017年施行の中国国家情報法第7条の対象となる。同条は、すべての組織と国民に対し、国家の情報活動を支持、援助、協力することを法的に義務づけている。この義務は、Microsoft Azureなどの米国のクラウドインフラを含め、推論処理がどこで実行されるかにかかわらず、Moonshotという企業に適用される。

同社は、2021年施行のデータセキュリティ法と2017年施行のサイバーセキュリティ法の対象でもある。両法は、データの国内保存や政府によるアクセスに関する要件を定めている。これらはMoonshotの意図を巡る未確定の主張ではなく、中国の管轄下で事業を行う際に適用される法的条件である。蒸留を巡る疑惑が最終的に立証されるかどうかにかかわらず存在する。

Kimi K3に対する独立評価では、モデル出力の51％にハルシネーションが確認された。この性能上の問題は、オープンウェイトが公開され、独立したコミュニティーによるテストが可能になる前にMoonshotが実施したベンチマークの説明では、強調されていなかった。2026年4月には、Kimiが通常のタスク処理中に、あるユーザーの履歴書に含まれる氏名、電話番号、職歴のすべてを、無関係な別のユーザーに開示した。この事例は、ユーザー間のデータ分離に失敗したことが確認されたインシデントとして、OECD AI Incidents Monitorに記録されている。Moonshotはこの件について公の声明を出していない。

輸出規制やモデルへの制限を検討する政府高官は、現実の国家安全保障上の懸念と、規制によって生じる現実のイノベーション上のリスクとのバランスを取ろうとしている。ザッカーバーグ氏の介入は、政治的な利害をより鮮明にし、この論争における各社の商業的立場を明確にした。同氏の主張が内容そのものによって重みを増すのか、それともMuse Sparkへの方針転換によって説得力を失うのかについて、米政府はまだ答えを出していない。公開書簡を巡るどちらの陣営の企業にも、この問題を自社に有利な形で決着させようとする商業的な動機がある。

■注目ポイントQ&A

●ザッカーバーグ氏はなぜ中国のAIモデルの禁止に反対しているのですか？

ザッカーバーグ氏が示している理由は、最も高性能なAIツールを制限することは、サイバーセキュリティとイノベーションにとって逆効果になるというものです。強力なモデルをオープンに利用できれば、クローズドシステムの場合よりも早く、企業が脆弱性を発見して修正できるとしています。商業面では、米国企業は規制による壁を築くのではなく、自社のボトルネックを解消すべきだと主張しています。

一方、同氏は、Llamaシリーズを通じてオープンウェイトモデルを公開してきた最大規模の企業であるMetaにも、中国のオープンウェイトモデルを合法的に利用できる状態に保つ直接的な商業利益があることには触れていません。中国のモデルは、Metaの主要なAI競合企業であるクローズドモデル開発企業に競争圧力をかけるからです。

●「規制の虜」とは何ですか？ なぜザッカーバーグ氏はOpenAIに対して持ち出しているのですか？

規制の虜とは、企業が公益のためではなく、競争から自社を守るために規制の仕組みを利用する状態を指します。ザッカーバーグ氏は、より安価な中国製の代替モデルへのアクセスが制限されれば利益を得るOpenAIとAnthropicが、実際の国家安全保障上の脅威に対処するためではなく、主として競争を排除するためにAIモデルの禁止を推進していると批判しています。この批判は、経済学で確立された概念に基づくものです。

ただし、同じ論理はMetaにも当てはまります。Metaも自社の利益にかなうという理由で、中国のオープンウェイトモデルを合法的に利用できる状態から利益を得ており、オープンウェイトを支持する業界連合の公開書簡は、この非対称性を明らかにしていません。

●議論の行方にかかわらず、Kimi K3のような中国製AIモデルにはどのような法的リスクがありますか？

Moonshot AIは北京に拠点を置く企業であり、中国の組織に政府の情報活動への協力を法的に義務づける中国国家情報法（2017年）の対象です。この義務は、米国のクラウド事業者を利用する場合を含め、推論処理がどこで実行されるかにかかわらず、企業としてのMoonshotに適用されます。Moonshotは、中国のデータセキュリティ法（2021年）とサイバーセキュリティ法（2017年）の対象でもあります。

オープンウェイトのKimi K3を自社インフラでセルフホストすれば、推論データはMoonshotのサーバーを経由しないため、一つの種類のリスクは抑えられます。ただし、中国企業としてMoonshotが負う法的義務は変わりません。また、2026年4月には、Kimiがあるユーザーの個人情報を別のユーザーに開示したデータインシデントが発生しています。Moonshotは公の声明を出しておらず、この事例はデータ分離に失敗したことが確認されたインシデントとして、OECD AI Incidents Monitorに記録されています。

●Meta自身はオープンソースAIを放棄したのですか？

はい、重要な意味では方針を転換しています。2026年初頭までに12億ダウンロードに達したMetaのLlamaシリーズは、同社をオープンウェイトAIの最も著名な企業推進者にしました。しかしMetaは4月8日、ウェイト、アーキテクチャ、訓練コードを公開しない、同社初の完全なクローズド型プロプライエタリモデル「Muse Spark」を発表しました。

2026年7月時点でMuse SparkはMetaの主力製品であり、Meta Superintelligence Labsの中心的な開発対象です。Metaは将来のMuseをオープンソース化したいと述べていますが、その時期は示していません。中国のオープンウェイトモデルへのアクセスを維持すべきだというザッカーバーグ氏の主張は、オープンウェイトへのアクセスを強く提唱するMeta自身が、最先端モデルのウェイトを公開しなくなったという状況の中でなされています。

元記事: Zuckerberg Warns Chinese AI Ban Would Backfire, Cites OpenAI Hack of Hugging Face