Google、Gemini安全性チームを政府対応部門へ移管か―研究者から独立性への懸念
2026年8月29日 18:17
Googleは2026年9月初め、AIモデル「Gemini」のリスク評価などを担う約90人のAI責任チームを、Google DeepMindから同社のグローバルアフェアーズ部門へ移管する。The Wall Street Journalが社内メールを基に報じた。一部の研究者はDeepMind内の別チームへの異動を希望したが、申請は認められなかったという。
移管先のグローバルアフェアーズ部門は、各国政府や規制当局との関係、公共政策、ロビー活動などを担当する。Googleは安全性に関わるチームの連携を強めるための再編だと説明する一方、チーム内からは、評価の独立性やGeminiの開発者へのアクセスに影響することを懸念する声が出ている。
■約90人のチームをグローバルアフェアーズへ移管
異動するAI責任チームは、GoogleのAIモデルについて、化学・生物・放射線・核に関するリスクを評価するほか、利用者とチャットボットの関わり方や心理的影響などを研究している。
チームを率いるGoogle DeepMindのバイスプレジデント、Helen King氏は社内メールで、研究の中核的な目的、計算資源、人員規模、外部で研究成果を発表する機会は維持されると説明した。DeepMindへのアクセスも引き続き確保されるとしている。
Googleの広報担当者も、安全性と責任あるAIに取り組むチームを近づけることで、モデルや製品の安全性に研究成果を反映する力を強化すると説明した。今回の移管は、人事やポリシーなどの機能をGoogle本体へ集約し、DeepMindをより緊密に統合する組織再編の一環と位置付けられている。
一方、チームの一部メンバーは、グローバルアフェアーズへの移管前に、DeepMind内に残る研究グループへの異動を申請した。The Wall Street Journalによると、これらの申請は認められなかった。現役のDeepMind従業員からは、新体制によって研究の独立性が弱まり、Geminiの開発状況を把握しにくくなることへの懸念も示されている。
■Geminiの重大リスクを評価
Google DeepMindは、高性能なAIモデルが深刻な被害につながり得る能力を備えていないかを調べるため、「フロンティアセーフティフレームワーク」を運用している。
同フレームワークは、バイオセキュリティやサイバーセキュリティ、AI研究開発の自動化、有害な操作などの領域に「臨界能力レベル（CCL）」を設定する。モデルの能力を定期的に評価し、一定の基準に近づいた場合には警戒を強め、該当するCCLに達した場合には外部提供前のセーフティーケース審査を行う仕組みだ。
セーフティーケース審査では、想定されるリスクが管理可能な水準まで抑えられているかを分析する。King氏は2026年7月、モデルが臨界能力レベルに達し、適切な緩和策を用意できなければローンチしないとの方針を説明している。
AI責任チームは、こうした評価に関わる組織の一つである。ただし、チーム単独にGeminiのリリースを拒否する正式な決裁権があるとGoogleが公表しているわけではない。安全性評価は、フレームワークに基づく審査やモデル公開の判断に用いられる重要な材料となる。
■独立性と開発現場へのアクセスが焦点
グローバルアフェアーズ部門は、Googleのグローバルアフェアーズ担当プレジデントであるKent Walker氏が率い、政府、規制当局、議会などとの関係を担っている。このため、安全性評価を行うチームが同部門の指揮系統に入ることで、研究結果を独立して提示できる体制が維持されるかが焦点となる。
組織の配置だけで、安全性評価が損なわれると判断することはできない。Googleも、研究目的や人員、計算資源、DeepMindへのアクセスを維持すると説明している。しかし、政府対応や政策立案を担う組織と、安全性に関する技術評価を担う組織が同じ指揮系統に置かれるため、評価結果の扱い、意思決定への伝達経路、外部への情報開示を明確にすることが重要になる。
先端モデルの評価では、完成した製品だけでなく、開発途中のモデルへのアクセスも重要だ。設計の早い段階で問題を把握できれば、開発チームはモデルの構成や安全対策に反映できる。評価が提供直前に集中すれば、追加の緩和策や公開時期の見直しなど、取り得る対応が限られる可能性がある。
DeepMind内のプライバシー、セキュリティ、モデルの振る舞いを扱う技術チームは、引き続き同組織に残ると報じられている。CBRNリスクや人間とAIの関係を研究するチームだけが移管の対象となったことも、チーム内の懸念につながっている。
■Hassabis氏の外部評価機関構想
Google DeepMind共同創業者のDemis Hassabis氏は2026年7月14日、最先端AIモデルを提供前に評価するため、米国主導の独立した基準策定・評価機関を設ける構想を示した。
提案された機関は、米金融業界の自主規制機関である金融取引業規制機構（FINRA）を参考にしたもので、業界から資金提供を受けながら、独立した技術専門家を中心に運営することを想定している。フロンティアAIを開発する企業がモデルを公開前に提出し、サイバー、生物、核、欺瞞などに関連する能力を検査する構想だ。
この提案は社外の評価機関に関するものであり、Google社内のAI責任チームにそのまま適用されるものではない。それでも、安全性評価を商業的な利害から一定の距離に置くという考え方と、今回の社内再編との関係は、今後のガバナンスを検討する上で注目される。
Hassabis氏はその後、Google DeepMindの会長とAlphabetのチーフサイエンティストに就任し、日常的な経営管理から退いた。DeepMindの日々の業務は、シニアバイスプレジデントのKoray Kavukcuoglu氏が統括している。
■過去の安全性情報開示も議論に
Google DeepMindの安全性を巡っては、Gemini 2.5 Proの公開時に、評価情報の開示が遅れたことも議論になった。
Googleは2025年3月25日にGemini 2.5 Proの実験版を公開したが、モデルの評価方法や制約などを記したモデルカードは同時には公開されず、簡略版が約3週間後に公表された。安全性評価に関する詳しい情報が示されたのは、モデル公開から1か月以上が経過してからだった。
これを受け、英国の国会議員60人は2025年8月、Google DeepMindがAIソウルサミットで表明したフロンティアAI安全性コミットメントを十分に履行していないとして、説明を求める公開書簡を発表した。Google DeepMindは、英国AI安全研究所などの第三者による検査を含む厳格な安全確認を実施しており、公約を履行していると反論した。
Future of Life Instituteが2026年夏に公表したAI Safety Indexでは、Google DeepMindは4点満点中2.01点で、総合評価はCだった。調査対象となった9社の最高評価もC+にとどまった。この指標は個々のモデルの安全性を測定するものではなく、企業のリスク評価、安全性の枠組み、ガバナンス、情報開示などを評価したものだ。
■急拡大するGeminiで安全性評価の重要性増す
Googleによると、Geminiアプリの月間利用者は2026年8月11日に10億人を超えた。同社史上最も速く成長した製品で、月間利用者が10億人を超えたGoogleの製品としては14番目になる。
利用規模が拡大するほど、モデルの能力を公開前に評価し、問題を開発チームや経営陣へ迅速に伝える仕組みの重要性も高まる。今回の再編後に注目されるのは、AI責任チームが開発中のモデルへ早期にアクセスできるか、安全性に関する知見をモデル開発者や意思決定者へ直接伝えられるか、研究成果を引き続き外部へ公表できるかという点だ。
組織再編は9月初めに完了する予定である。Googleが説明するチーム間連携の強化と、研究者が懸念する独立性や開発現場へのアクセスをどのように両立させるかが、今後の評価を左右する。
■注目ポイントQ&A
●GoogleのAI責任チームは何を担当していますか。
約90人のチームで、Geminiを含むGoogleのAIモデルについて、化学・生物・放射線・核に関するリスクを評価するほか、チャットボットの利用行動や心理的影響などを研究しています。
●チームにはGeminiの公開を単独で止める権限がありますか。
チーム単独に正式な拒否権があるとは公表されていません。安全性評価は、Google DeepMindのフロンティアセーフティフレームワークに基づく審査や、モデルを公開するかどうかの判断に用いられます。Googleは、重大な能力基準に達し、リスクを十分に軽減できない場合にはモデルを公開しない方針を示しています。
●グローバルアフェアーズ部門への移管で何が懸念されていますか。
安全性に関する技術評価と、政府・規制当局との関係を担う機能が同じ指揮系統に置かれるため、評価の独立性や、研究結果を意思決定者へ伝える経路が注目されています。また、一部の研究者はGeminiの開発チームへのアクセスが弱まることを懸念しています。
●Googleは移管についてどのように説明していますか。
安全性と責任あるAIに取り組むチームを近づけることで、モデルや製品の安全性に研究成果を反映する力を強化すると説明しています。研究目的、計算資源、人員、外部発表の機会、DeepMindへのアクセスも維持するとしています。
●Geminiの利用者に直ちに影響はありますか。
利用条件や機能が直ちに変わるとの発表はありません。今回の再編で問われているのは、将来のモデルに対する安全性評価の独立性、開発チームへのアクセス、評価結果を公開判断に反映する仕組みが維持されるかという点です。
元記事: Google Moved Its Gemini AI Safety Team Into Lobbying, Blocking Researchers From Staying