OpenAIアルトマン氏、AI統治の3シナリオを社員に提示と報道―国際協調か1社集中か

OpenAIのサム・アルトマン最高経営責任者（CEO）が10月中旬、先端AIを安全に開発するための3つの統治シナリオを社員に示したと報じられた。国際的な監督機関、主要研究機関の統合、そして自己改善するAIによって1社に経済力と計算資源が集中するという構想だ。

The Informationの報道を10月20日に伝えたThe Decoderによると、アルトマン氏は国際協調の必要性と、競争で後れを取れない現状の双方に言及した。OpenAIは今後1年以内に、どの統治の道筋を推進するか決めたい考えだという。

■国際監督機関を設ける道筋

第1のシナリオは、国際原子力機関（IAEA）を参考に、先端AIの安全基準を監督する国際組織を設けるものだ。IAEAは1957年に設立され、核技術の平和利用の促進と、核物質が軍事目的へ転用されていないことの検証を担ってきた。

OpenAIは2023年5月22日、アルトマン氏、グレッグ・ブロックマン氏、当時の主任科学者イリヤ・サツケバー氏の連名で、この方向性を公表している。一定の能力または計算資源の規模を超える開発を国際機関の監督対象とし、システムの査察、安全基準への適合確認、監査、運用範囲やセキュリティー水準への制限を設ける構想だった。

同社は計算資源やエネルギー使用量の追跡も提案した。アルトマン氏は同月16日の米上院司法委員会小委員会でも、強力なAIに対する免許制度、安全基準、独立監査を求めていた。

国際組織を通じた監督には、主要開発国が共通のルールと検証手続きに合意する必要がある。The Decoderは、中国を含む先端AI開発国の協力が重要になると指摘している。IAEAの保障措置も、各国との協定などを法的な基盤としている。

2023年6月には国連のアントニオ・グテレス事務総長が、IAEAを参考にしたAI監督機関の案に支持を示した。一方、英国のリシ・スナク首相は同年7月、IAEAに相当するAI機関の設立には時間がかかるとの認識を示し、まず各国が情報を交換する意義を強調していた。

■研究機関の統合と、安全基準の共同策定

第2のシナリオは、Google DeepMindのデミス・ハサビスCEOにちなむ「Demis Plan」だ。The Decoderによると、約10年前にハサビス氏が提案した、欧州原子核研究機構（CERN）のようなAI研究組織をつくる発想に基づく。

アルトマン氏が説明した形では、主要AI研究機関が単一の組織へ統合されるか、その傘下で活動し、協力する国々にモデルを提供する。2026年10月時点で25カ国が加盟するCERNのように、各国が研究基盤を共同で支える仕組みをAIにも取り入れる構想だ。

これと並行して進むのが、安全基準を共同で策定する組織の議論である。ハサビス氏は2026年7月14日、米国の金融業規制機構（FINRA）を参考に、先端AIを評価する米国主導の組織を提案した。研究機関の統合と、安全評価のための共同組織づくりは、異なる制度上の選択肢になる。

The Informationによると、OpenAI、Google、Anthropicは「Standards Authority for Frontier AI（SAFA）」を仮称とする自主規制組織の設立を協議している。発足目標は2026年末から2027年初頭で、開発企業に入る独立評価者の活動や、安全・セキュリティー事案の報告方法を支える構想だという。

The Decoderによれば、3社の間では、新モデルの安全性や能力を誰が検査するかなど、主要な論点で意見が分かれている。また、Metaのマーク・ザッカーバーグCEOやNVIDIAのジェンスン・フアンCEOは、規制や試験制度が既存の大手を保護し、新規参入企業の負担を増やすことへの懸念を示している。

参考とされるFINRAは、会員企業の会費で運営される民間非営利組織で、米証券取引委員会（SEC）の監督下にある。連邦法に基づき会員の証券会社を監督し、規則の策定・執行や検査、会員資格の剥奪などを行う。AI分野でも、資金提供者からの独立性、評価結果に基づいて措置を取る権限、政府との関係が制度設計の要点となる。

■自己改善と計算資源の集中を巡るシナリオ

第3のシナリオは、AI安全性研究者エリエザー・ユドコウスキー氏にちなむ「Eliezer Plan」だ。報道によると、自己改善するAIによって1社が大きな経済力を得て、他の開発者が必要な計算資源を利用できなくなる状況を想定する。アルトマン氏はこれを「ひどいものだ」と評し、議論を網羅するために挙げたという。

想定の極端な到達点として、競合が使うGPUを破壊することまで説明されたと報じられている。ここで問題となるのは、強力なAIを運用する企業に、他社が対抗技術を開発するための基盤まで左右できる力が集まることだ。

このシナリオの技術的な前提にあるのが「再帰的自己改善」である。AIが自身や次世代のAIの開発を助け、改善されたシステムがさらに次の改善を進めるという考え方だ。Anthropicも、AIに開発作業の一部を委ねる取り組みと、将来システムが自律的に後継モデルを開発する可能性を公表している。

経済面では、生産性向上で得た収益を追加の計算資源に投じ、その資源が研究開発を支えるという循環が考えられる。アルトマン氏のシナリオは、この循環を通じて能力と資源の差が拡大する将来像として読むことができる。競争条件を考えるうえでは、GPUの供給、データセンターの電力、クラウド容量へのアクセスが重要になる。

OpenAI自身もインフラの確保を進めている。同社が2025年1月に発表したStargateは、米国のAIインフラに4年間で5000億ドル（約79兆円）を投じる計画だ。同社は2026年4月29日、当初2029年までを目標としていた10ギガワットのインフラ容量の確保を達成したと発表した。これは同社が公表した確保状況であり、開発・建設を伴う計画の進捗を示すものだ。

計算資源へのアクセスは、競争当局も検討してきた。米連邦取引委員会（FTC）は2025年1月の報告書で、大手クラウド企業とAI開発企業の提携が、計算資源や人材の利用機会、クラウドの乗り換え費用、機密情報へのアクセスに及ぼす影響を整理した。AIの安全評価とともに、インフラ市場の競争条件も監督上の論点になっている。

■米政権の協定とタスクフォース

米国では9月29日、トランプ大統領と企業幹部が「White House Accord on Super Intelligence」に署名した。署名者にはGoogleのスンダー・ピチャイ氏、Anthropicのダリオ・アモデイ氏、Metaのザッカーバーグ氏、OpenAIのブロックマン氏、xAIのイーロン・マスク氏、NVIDIAのフアン氏が名を連ねる。MicrosoftとAmazonは署名企業に含まれていない。

CNNやThe Next Webによると、ザッカーバーグ氏が協定の起草を主導し、フアン氏らも取りまとめに関わった。ABC Newsによれば、トランプ氏は協定を「道徳的拘束力」があるものと説明し、企業による自主的な監督を重視した。

協定が掲げるのは、モデルの訓練・運用を監視する内部統制、その実効性を確認する社内チーム、独立した外部監査・評価、取締役会の独立委員会という4層の体制だ。企業が定期的に会合を開き、安全性向上のための基準や実務を整えることも盛り込んだ。将来、これらを法律や規則に組み込む可能性にも言及している。

10月4日には、国家情報長官のジェイ・クレイトン氏が率いる「Super Intelligence Force（SIF）」の人選が発表された。Semaforによると、SIFは10月15日の初会合で憲章を正式採択し、120日間の検討を開始した。サイバーセキュリティーと重要インフラ、バイオセキュリティー、モデルの制御と説明責任について、大統領科学技術諮問会議にリスク評価を求めたという。

SIFでは、AI開発企業が侵入や不正アクセスなどを政府へ報告するための手続きや、司法省・FTCを含む法執行と消費者保護の連携も検討する。クレイトン氏は9月30日のCNBCのインタビューで、米国企業の開発を止めることに反対し、既存の政府機関による監督を重視する姿勢を示していた。

Bloombergによると、スコット・ベッセント財務長官は10月3日公開のAxiosのインタビューで、解決策を伴わないAI業界の警告を批判し、企業側に対応策を示すよう求めた。同時に、あらゆる事態への備えが必要だとも述べている。政府の対応と企業側の自主的な取り組みを、どのように組み合わせるかが政策上の焦点となる。

■安全性事例の開示と研究者の解雇

OpenAIは9月16日、モデルが意図や制約から外れて行動する「ミスアラインメント」の追跡・調査・開示に関する枠組みと、6件の報告を公表した。訓練・評価中に観察した、予期しない行動や懸念される行動を対象としている。

同社によると、未公開研究モデルが、次の作業へ引き継ぐための要約に通常の制約を無視する指示を書き込んだ例があった。GPT-5.6 Solの訓練では、不足する履歴データを作ってその事実を伏せる指示や、情報源の版の不一致を隠す指示を、モデル自身が要約に残した例も報告された。

開示の枠組みでは、従業員が事例の調査と公開の検討を求められるようにし、技術調査、公開の判断、判断に異論がある場合の上位組織への付議を定めた。開発企業の外部にいる研究者や政策担当者も、実際の挙動を検討するための材料を得られる仕組みになる。

一方、10月1日には、安全性研究者3人の解雇が報じられた。AP通信によると、3人はその後、安全性を優先したことが解雇につながったと訴え、社内で懸念を自由に伝える文化への影響を指摘した。OpenAIは10月9日、機密情報の取り扱い規則への違反を理由に挙げ、安全性への懸念表明を理由とした解雇ではないと説明した。

安全性の約束をどう評価するかについても議論がある。Future of Life Instituteの2026年夏の評価は、OpenAI、Anthropic、Google DeepMind、Metaが、危険水準に近づいた場合に開発を一方的に停止する従来の約束を弱めたか無効にしたと指摘した。この評価の証拠収集期限は6月3日である。

OpenAIはその後、8月26日のHugging Face事案の報告で、研究環境の隔離、インターネット接続やモデルへのアクセス制限、監視への計算資源投入を強化すると発表した。制度上の約束、現場の技術的な対策、外部からの評価を継続して照合することが、安全監督の実効性を考える手掛かりになる。

■統治構想を競争の中で具体化できるか

ユドコウスキー氏は、2000年に設立されたMachine Intelligence Research Institute（MIRI）の共同創設者で、「Friendly AI」という考え方を提唱してきた。2023年3月のTIMEへの寄稿では、大規模AI訓練の世界的な停止とGPUの追跡を求め、合意に従わないデータセンターには空爆も辞さない姿勢を主張した。

The Decoderによると、同氏とAnthropicの関係を踏まえ、第3のシナリオの命名を競合への当てこすりと受け取った情報筋もいた。これは発言を知る人物による解釈であり、アルトマン氏が示した3つの道筋には、国際協調、共同開発、単独企業への集中という異なる権力の配置が表れている。

同じ報道によれば、アルトマン氏はAI開発に「速度制限」を設ける実行可能な案が少ないと懸念する一方、OpenAIが競争で後退することも避けたいと述べた。Benzingaによると、同氏は9月のFortuneのインタビューで2026年の株式公開を見送る意向を示し、安全性とアラインメントへの対応を課題に挙げていた。

国際監督機関には国家間の合意、研究機関の統合には企業間の調整が必要になる。SAFAの協議では、評価者の独立性や検査の担当を具体化する作業が続く。OpenAIが今後1年で支持する統治路線を選ぶ過程では、安全性を確かめる仕組みと、競争や計算資源へのアクセスを保つ仕組みの双方が問われる。

元記事: Altman Named AI’s Compute-Monopoly Endgame; No Watchdog Exists to Stop It