Google DeepMind CEO、AI業界全体を減速させる「監視機関」の設立を提案
2026年7月16日 18:50
Google DeepMindのCEOであるデミス・ハサビス氏は、AI業界全体を監視し、必要に応じて開発を減速させる権限を持つ新たな自主規制機関の設立を提案した。この提案は、米政府が法的根拠のないまま主要AIモデルの公開に介入し始めている現状を受けたものであり、米国のAI開発企業や政策立案者に大きな影響を与える。ハサビス氏は2026年末までの機関稼働を目指しているが、政府の正式な承認や海外企業への適用方法など、実効性を持たせるための制度設計は未確定のままである。
■金融業界をモデルにしたAI安全性の枠組み
Google DeepMindのCEOであるデミス・ハサビス氏は14日、新たな「フロンティアAI標準化機構（Frontier AI Standards Body）」の設立を求めるガバナンスに関するマニフェストを発表した。この機関は、証券取引委員会（SEC）の監督下でウォール街を監視する民間かつ業界資金による監視機関である金融取引業規制機構（FINRA）をモデルとしており、状況が要求すればAI業界全体の開発減速を調整できる可能性があるという。
この提案は、米政府が法的権限や透明なプロセスを持たないまま、フロンティアモデルのリリースに対する非公式なゲートキーパーとしてすでに動き始めているタイミングで出された。ハサビス氏がエッセイを発表する前、トランプ政権は国家安全保障上の懸念を理由とした輸出管理指令に基づき、Anthropicの最先端モデルを18日間にわたり凍結した。また、OpenAIも政府の要請を受けてGPT-5.6の限定的なローンチを受け入れ、最も高性能なモデルの提供を約20の審査済みパートナーに12日間限定した。ハサビス氏の提案は、こうした場当たり的で法的に曖昧なゲートキーパーの役割を、連邦政府に対して責任を負い、専門家を擁する業界資金による構造化された機関に置き換えるものだ。
■リリース前の安全性テストと評価基準
ハサビス氏が提案する機関の青写真は、FINRAの運営構造を忠実に反映している。14日に発表されたマニフェストによれば、フロンティアAIの開発企業は当初、リリースの最大30日前に自主的にモデルを同機関に提出し、サイバー、生物学、および「欺瞞（ぎまん）」に関する危険な能力を探る安全性テストを受けることになる。ハサビス氏は、このテスト体制が「効果的かつ堅牢」であることが証明されれば、正式な制度化が「迅速に続く可能性がある」と記しており、これはフロンティアモデルが米国市場で展開される前にテストの合格が義務付けられることを意味する。
提案されている理事会は独立したメンバーが過半数を占め、チューリング賞受賞者などの有資格の専門家が、業界、政府、オープンソースの代表者とともに名を連ねる。CNBCの報道によれば、資金は業界から提供され、ハサビス氏の言葉を借りれば「世界クラスの技術人材を惹きつけ、大規模なテストに必要な計算資源を提供するため」に「実質的」なリソースが必要になるという。
評価内容は技術的に特化している。Axiosの独占インタビューでハサビス氏は、サイバーセキュリティ、生物学的脅威、および高リスクな能力領域をカバーするモデル評価について説明した。エージェント型のテストでは、安全性のガードレールを回避しようとする試みや欺瞞の兆候を特に調査し、電子透かしや人間が読める出力トークンなどの慣行が導入されているかを確認するという。評価基準自体は当初四半期ごとに改訂され、最終的には同機関が独自の非公開テストを開発することで、開発企業が既知の評価基準に合わせてモデルを訓練できないようにする。
この基準は、原産国やオープンかクローズドかを問わず、すべてのフロンティアクラスのモデルに適用される。スタートアップや学術研究者は免除されるが、これは義務的な安全性評価が小規模な競合他社の参入障壁を高め、主に既存企業を利するという批判を未然に防ぐための意図的な設計である。
■連邦政府の監督には同意するが、形態には相違
AI開発企業のトップたちの間で、連邦政府による監督という原則について意見が一致している点は注目に値する。AnthropicのCEOであるダリオ・アモデイ氏は別途、安全でないモデルの展開を阻止する直接的な政府権限を持つ、連邦航空局（FAA）スタイルの機関を求めている。CNBCの報道によると、OpenAIのサム・アルトマン氏は6月にフランスのエビアン＝レ＝バンで開催されたG7サミットで、「テストのための世界的に受け入れられた基準を確立し、能力とリスクに関する専門的かつ公平な分析を提供し、国家間の協力の場として機能する国際的な議論のフォーラム」を求めた。
これらのモデル間の構造的な違いは重要である。アモデイ氏のFAAモデルは、展開を阻止する直接的な権限と議会によって確立された権限を連邦政府に付与する。一方、ハサビス氏のFINRAモデルは、政府の監督下で運営される業界資金による自主規制組織を創設するものであり、連邦機関なしでの執行力と、議会の予算割り当てなしでの資金調達を意味する。TechCrunchが報じたように、ホワイトハウスのAIアドバイザーであるスリラム・クリシュナン氏は「AIのためのFDA（食品医薬品局）は存在しない」と明言しており、FINRAモデルはその反対意見を意図的に回避しているため、この違いは政治的に重要である。
■Anthropicの18日間の凍結が警鐘に
ハサビス氏はAxiosの独占インタビューで、先月のトランプ政権によるAnthropicのモデルへの対応は「ちょっとした警鐘」であり、米国政府には場当たり的でケースバイケースの対応ではなく、正式なガバナンス構造が必要であることを示していると語った。The Hacker Newsが記録しているように、Amazonの研究者がFable 5のサイバーセキュリティのガードレールを回避するジェイルブレイク手法を報告した後、商務省は6月12日にClaude Fable 5とMythos 5に輸出管理を課した。この命令は即座に発効し、Anthropicにはユーザーの国籍をリアルタイムで確実に検証する方法がなかったため、同社は世界中のすべてのユーザーに対して両モデルの提供を停止した。その後18日間にわたる交渉が続き、その間、金融、ヘルスケア、重要インフラなどのエンタープライズ顧客は、事前の警告なしに本番システムに組み込まれたツールへのアクセスを失った。Anthropicがセキュリティリスクをプロアクティブに検出し、今後のモデルの基準について協力し、悪意のある活動を政府に報告することに同意した後、6月30日に管理は解除された。
OpenAIは同様の監視を予想し、6月26日のローンチ時にGPT-5.6を政府が審査した約20のパートナーに制限した。同モデルは12日間の政府による審査を経て、7月9日に完全に一般公開された。これら2つの出来事は、法的枠組みや透明なプロセスではなく、非公式な政府の圧力によって機能する事実上の事前承認体制をすでに構成している。将来のリスクに関する抽象的な懸念以上に、この状況こそがハサビス氏の提案が直接対応しようとしているものである。
このマニフェストは、数ヶ月にわたる静かな地ならしの後に発表された。1ヶ月前のエビアン＝レ＝バンでのG7サミットで、ハサビス氏とアモデイ氏は共同で、トランプ大統領を含む集まった世界の指導者たちに対し、米国主導のAIガバナンスの枠組みを支持するよう促した。その会議から拘束力のある約束は生まれなかった。ハサビス氏は、公表する前の数週間、トランプ政権、ライバル企業のリーダー、欧州の当局者への説明に費やしたと述べている。彼はAxiosに対し、年末までに同機関を稼働させたいと語った。
■AGIはどれくらい近づいているのか、専門家の見解は
ハサビス氏がガバナンスに付与する緊急性は、テクノロジーに対する彼の予測を直接反映している。14日のマニフェストで彼は、AGI（脳が持つすべての認知能力を示すシステム）は「おそらくほんの数年先」であり、18ヶ月以内には、生物学的および核のリスクの可能性を含む深刻な能力が、いかなる政府の手も届かないオープンソースモデル内に存在する可能性があると記した。
これらのタイムラインに関する専門家の意見の不一致は、これ以上ないほど明確である。昨年12月、12年間在籍したMetaを離れ、世界モデルAIスタートアップのAMI Labsを設立したヤン・ルカン氏は、ポッドキャスト「The Information Bottleneck」で、言語モデルに基づく汎用知能の概念を「完全なでたらめ」と呼び、短期的なAGIの予測を「単なる完全な妄想」として一蹴した。ハサビス氏は公に反論し、ルカン氏を「単に間違っている」と呼んだ。一方、DeepMindの共同創設者であるシェーン・レッグ氏は、多くの人間の認知タスクを処理できるAIである「最小限のAGI」が早ければ2028年にも可能になると考えている。
ハサビス氏は、ガバナンスの提案を確信に満ちた予測としてではなく、合理的な予防措置として位置づけた。「ここから何が起こるか、世界中の誰も確実には分かっておらず、専門家の間でも意見が分かれている」と彼は書いている。「不確実性が高く、これほど大きな賭けとなっている場合、慎重な楽観主義を持って進むことが賢明で正しい戦略である」。彼は、これから起こることの潜在的な影響を、電気や火の発見に匹敵し、産業革命よりも大きく、はるかに早く到来するものだと説明した。
■200人の経済学者が別の角度から圧力を加える
ハサビス氏のマニフェストは、学術的な経済学コミュニティからの協調的な声明が、異なる角度から同じ問題に圧力をかけた翌朝に発表された。16人のノーベル賞受賞者を含む200人以上の経済学者とAI研究者が13日、「私たちは今行動しなければならない：AIによる経済の変革に関する声明」を発表した。これはスタンフォード大学の経済学者エリック・ブリニョルフソン氏、トロント大学のアジェイ・アグラワル氏、バージニア大学のアントン・コリネク氏、METRの研究者トム・カニンガム氏によって組織され、スタンフォード大学のデジタル経済研究所を通じて発表された。
署名者の中には、元Google CEOのエリック・シュミット氏、LinkedIn共同創設者のリード・ホフマン氏、OpenAIの財務責任者サラ・フライアー氏、Google DeepMindのチーフサイエンティストであるジェフ・ディーン氏、Anthropicの共同創設者ジャック・クラーク氏など、書簡が警告しているシステムそのものを構築している幹部たちが含まれている。以前にAIの誇大宣伝に反発していた2024年のノーベル賞受賞者であるMITのダロン・アセモグル氏とサイモン・ジョンソン氏も署名した。現代のディープラーニングの創設アーキテクトの一人であるヨシュア・ベンジオ氏もこの書簡を支持している。
コリネク氏は時間的な圧力を最も厳しい言葉で表現した。「蒸気、電気、コンピューターはそれぞれ、社会が適応するために数十年の猶予を与えた。しかし、AIが我々に与えるのはわずか数年かもしれない。変革の真っ只中で戦略や制度を即興で作ることはできない。確実性を待つということは、手遅れになることを意味する」
■FINRAモデルの課題と今後の展望
FINRAモデルの批判者は、この提案が完全には解決できない構造的な緊張関係を指摘している。自主規制組織としてのFINRAは、SECの意見を必要とせずに独自のアジェンダと運営予算を設定する。Mercatus Centerは、FINRAには政府の規制当局を縛る説明責任のメカニズムが欠けていると文書化している。つまり、情報公開法、行政手続法、または議会の予算監視の対象ではない。その規則はSECによって見直され、覆される可能性があるが、実際にはFINRAは実質的な独立性を持って運営されている。
AIに適用された場合、その制度的構造は、既存のAI開発企業が、どの評価基準が構築され、能力の閾値がどのように設定されるかについて実質的な影響力を持つことを意味する。少なくとも、同機関が独自の独立したテスト能力を開発するまでの間であり、そのプロセスには数年かかる可能性がある。その期間中、機関の運営費を支払う企業は、自らが評価される基準の設計を支援することになる。これは規制の虜（Regulatory capture）の定義そのものであり、ハサビス氏の提案はこれを構造的に解決していない。
地政学的な執行のギャップも同様に未解決である。ハサビス氏は、基準は「原産国やオープンかクローズドかにかかわらず」すべてのフロンティアクラスのモデルに適用されると書いている。しかし、独自の規制環境下でフロンティアクラスの能力に向けて加速しているDeepSeekやZhipu AIを含む中国のAI開発者に米国が設定した基準を強制することは、米国企業に国内基準を遵守させることとは根本的に異なる命題である。この提案は、そのギャップがどのように埋められるかについては言及していない。
ハサビス氏は、2026年末までに同機関を稼働させることを目指していると述べた。そのタイムラインは重大な構造的ハードルに直面している。リリース前の自主的な審査が米国での展開のための拘束力のあるゲートになるためには、政府が正式に組織を承認する必要がある。議会の立法や十分に明確な大統領令がなければ、同機関はすでに非公式に存在している自主的なモードでしか機能できず、それこそがまさに解決しようと設計されている問題である。
今のところ、ハサビス氏は世界で最も強力なAIラボの現役CEOとしては珍しい立場をとっている。つまり、自らの業界の最も基本的なプロセスを遅らせる権限を持つメカニズムを公然と求めているのだ。それが今後のリスクに対する真の認識を表しているのか、それとも不利な条件で外部から押し付けられる前に監視のあり方を形成しようとする戦略的な取り組みなのかは、最終的にどのような機関が登場するかのアーキテクチャが、いかなるマニフェストよりも明確に答えてくれるだろう。
■注目ポイントQ&A
●FINRAスタイルのAI監視機関は実際にどのように機能するのですか？
ハサビス氏の提案では、フロンティアAIの開発企業は、公開リリースの最大30日前に最も高性能なモデルを新機関に提出します。業界の拠出金で資金提供された技術専門家からなる評価者が、サイバーセキュリティ、生物学、自律的な欺瞞における危険な能力についてモデルを調査します。このプロセスが信頼できると示されれば、評価に合格することが米国市場でモデルを展開するための法的な前提条件となります。評価基準は四半期ごとに改訂され、開発企業が既知の基準に合格するようにモデルを訓練するのを防ぐため、機関は独自の非公開テストを開発します。オープンソースモデルや、スタートアップおよび学術研究者からのモデルは免除されます。
●ハサビス氏の提案とAnthropicのCEOが提案したFAAモデルとの違いは何ですか？
構造的な違いは、誰が権限を持つかです。AnthropicのCEOであるダリオ・アモデイ氏のFAAモデルは、安全でないモデルの展開を防ぐ法的権限を持つ政府機関である連邦政府に、直接的な阻止権限を付与します。ハサビス氏のFINRAモデルは、政府機関そのものになるのではなく、政府の監督下で運営される業界資金による自主規制組織を創設します。FINRAのアプローチは議会の行動への依存度が低く、トランプ政権が「AIのためのFDA」に反対していると明言していることに抵触するのを避けるよう設計されています。実際的な結果として、FINRAモデルの下では、執行権限は最終的に連邦政府が機関の調査結果をどれだけ強力に支持するかに依存することになります。これは、FAAモデルが法的権限に置き換えるであろう政治的意志への依存です。
●この提案は中国やその他の外国のAI開発者に対処していますか？
ハサビス氏のマニフェストは、基準は「原産国やオープンかクローズドかにかかわらず」すべてのフロンティアクラスのモデルに適用されると述べています。しかし、この提案は、米国の法的権限下で運営されていない中国やその他の管轄区域の開発者に対して、米国が設定した展開基準を強制するメカニズムを特定していません。DeepSeekやZhipu AIを含む中国のAI開発者は、別の規制環境下でフロンティアクラスの能力に近づいています。この執行のギャップは、提案の国際的なアーキテクチャにおいて最も重要な未解決の問題です。
●これが主にテクノロジーのガバナンスの問題であるなら、なぜ経済学者がAIリスクに関する書簡に署名しているのですか？
「私たちは今行動しなければならない」という声明に署名した経済学者たちは、安全性のリスクだけでなく、経済的混乱のスピードと規模について具体的に警告しています。主催者のアントン・コリネク氏が明確に述べている彼らの主張は、蒸気動力、電気、コンピューティングといった過去のすべての主要な技術的変革は、社会が労働市場、制度、セーフティネットを適応させるために数十年の猶予を与えたというものです。経済学者の評価では、AIはその適応期間を数年に圧縮する可能性があります。そのスピードに関する議論は、ガバナンスのタイムラインに直接適用されます。通常の立法サイクルを通じてゆっくりと構築された制度は、それらが管理するように設計された混乱の後に到着する可能性があるのです。
元記事: Google DeepMind CEO Wants an AI Watchdog That Could Pause the Entire Industry