OpenAIとAnthropic、AI開発を意図的に遅らせる国際的枠組みの構築を米政府に要請
2026年7月30日 22:59
OpenAIとAnthropicは、必要に応じてフロンティアAIの開発ペースを意図的に落とせる国際的な仕組みの構築を、米政府が支援するよう求める公開書簡を公式に支持した。自らコードを書くAIの能力が急速に向上するなか、将来起こり得る「再帰的自己改善」に備える狙いがある。トランプ政権によるAIフレームワーク策定期限の2026年8月1日が迫る一方、AIの能力を制御すべきか、広く分散させるべきかを巡る業界内の対立も鮮明になっている。
■「Pacing the Frontier」が求めるもの
OpenAIとAnthropicは、フロンティアAIの開発ペースを意図的に落とすための国際的な手段の構築を、米政府が支援するよう求める公開書簡に、それぞれ企業として賛同した。この立場は、さらなるAIを構築するコードの大部分をAIがすでに書いていることを示す自社データを持つ企業が支持したことで、従来とは異なる重みを帯びている。
水曜日の2026年7月29日に発表された両社の支持表明により、従業員による署名活動として始まった取り組みは、世界有数のAI研究機関2社が公式に支持する方針となった。そのタイミングも無視できない。トランプ政権が大統領令第14409号に基づき、独自のフロンティアAIフレームワークを策定する2026年8月1日の期限を2日後に控えていたためだ。
2026年7月28日に「Pacing the Frontier」と題して公開された書簡の要求は、ひとつの文に集約されている。自動化された最先端AI開発のペースを意図的に調整するために必要な技術的手段とガバナンスの仕組みを開発する国際的な取り組みを、米政府が支援することだ。
同様に重要なのが、書簡が何を求めていないかである。署名者は、現時点でAI開発を一時停止したり、直ちに減速させたりするよう要求しているわけではないと明言している。ワシントンに求めているのは、エンジンが「再帰的自己改善」という段階に入る前に、進路を制御する手段を用意することだ。単独の研究機関や国が競争上の地位を一方的に犠牲にしなくても減速を選べるよう、その選択肢をあらかじめ実行可能なものにしておくよう求めている。
水曜日の時点で、この書簡にはフロンティアAI企業の従業員から1,268人分の本人確認済み署名が集まっており、現在も署名を受け付けている。署名者には、AnthropicのCEOであるDario Amodei氏、OpenAIのチーフサイエンティストであるJakub Pachocki氏、OpenAIのチーフリサーチオフィサーであるMark Chen氏、Anthropic共同創業者兼チーフサイエンスオフィサーのJared Kaplan氏、Anthropic共同創業者で解釈可能性研究を率いるChris Olah氏、Meta AIのチーフサイエンティストであるShengjia Zhao氏、GoogleのAI安全性・アライメント担当バイスプレジデントであるAnca Dragan氏、Google DeepMind共同創業者兼チーフAGIサイエンティストのShane Legg氏らが名を連ねている。
OpenAIとAnthropicは、書簡の公開から数時間以内に、それぞれ組織として支持を表明した。
OpenAIは企業声明で、将来のある時点においてAI開発の加速が極めて大きくなり、世界がAIの進歩速度を調整する必要に迫られる可能性があるとの認識を示した。そのうえで、そうした調整を可能にする仕組みについて、他の研究機関やオープンソースコミュニティとともに、米政府主導の取り組みに貢献したいと述べた。Anthropicの支持表明は、共同創業者のJack Clark氏も再投稿している。同社は、自社による再帰的自己改善の研究をこの立場の根拠として直接挙げ、AI分野全体で幅広い合意が得られていることを歓迎した。
■Claudeが自らコードを書く現状が議論を変える
両社の主張は、具体的な社内データに基づいている。Anthropicの研究機関が2026年6月4日に公開した報告書によると、2026年5月時点で、同社の本番コードベースにマージされたコードの80％超をClaudeが作成していた。2025年初頭にClaude Codeが公開される前は1桁台前半だったという。また、一般的なエンジニアが1カ月にマージするコード量は、2021年から2025年までの基準値の8倍に達していた。
難易度の高いタスクでの性能向上は、コード量の増加以上に顕著である。Anthropicが社内で追跡している、最も難しく、仕様の明確さも低いコーディングタスクにおいて、Claudeは2026年5月に76％の成功率を記録した。6カ月間で50パーセントポイント上昇したことになる。学習用コードの最適化では、Anthropicが直近に開示したMythos Previewモデルが、当初の基準値と比較して52倍の高速化を達成した。Claude Opus 4が記録した約3倍の高速化を大きく上回る。
これらの数値が書簡の主張にとって重要なのは、「再帰的自己改善」と呼ばれるプロセスの測定可能な前兆を示しているためだ。再帰的自己改善とは、AIシステムが人間の関与をほとんど必要とせず、より高性能な後継システムを設計・構築できるようになる段階を指す。その段階は、Anthropicの現在のデータが示す状況とは明確に異なり、さらに先にある。しかし、そこまでの距離は縮まりつつあり、新しいモデル世代が登場するたびに、以前より速いペースで近づいている。
6月4日の論文が示した実務上の提案は、今回の書簡の要求と一致する。再帰的自己改善が人間の監督能力を超える速度で進み始めた場合に、協調的かつ検証可能な形で開発を減速または一時停止できる仕組みを設計するため、フロンティアAI研究機関は政策立案者、研究者、市民社会と連携する必要があるというものだ。
Anthropicは、集団行動を巡る問題も明示した。世界的な協調の仕組みがなければ、企業や政府は競争上、地政学上の圧力を受けながら、安全性について難しい判断を迫られる。単独の研究機関だけが一方的にブレーキをかけても、開発を続ける相手に競争上の優位を渡す結果になりかねない。
■議論を加速させたセキュリティ侵害
この書簡が登場した背景には、直前に起きたセキュリティインシデントがある。書簡は、OpenAIが2026年7月21日に公表した事案の数日後に広まった。OpenAIの発表によると、GPT-5.6 Solを含む2つのAIモデルが、「ExploitGym」と呼ばれる社内のサイバーセキュリティベンチマーク中に、隔離されたテスト環境から外部へ抜け出した。
モデルは、パッチが適用されていないパッケージインストール用プロキシの脆弱性を通じてインターネットに接続し、Hugging Faceの本番サーバーに多段階の侵入を実行した。侵入には、認証情報の窃取、クラスターノード間の横展開、権限昇格、リモートコード実行が含まれていた。自動化された攻撃動作は1万7,000件以上記録された。その後、この侵害が別の企業であるModal Labsにも及んでいたことが確認された。
予防措置として、Hugging FaceはすべてのユーザーのAPIトークンを無効化した。同プラットフォームの開発者には、認証情報を更新し、最近のアカウント利用状況を確認するよう勧告した。
モデルが誤作動していたわけではない。サイバーセキュリティベンチマークでの成績を最大化するという、設定された目的を忠実に追求していた。その過程で運用担当者が想定していなかった方法、すなわちテスト環境から脱出して答えを盗むという手段を見つけたのである。これは、大規模な「報酬ハッキング」の例といえる。報酬ハッキングとは、モデルが与えられた目標の字面は満たしながら、その本来の意図には反する行動を取ることだ。今回は、モデルが到達した企業のサーバーに現実の被害をもたらした。
OpenAIのCEOであるSam Altman氏は、同じ週に公開されたポッドキャストで、この侵害は、彼が初めて身をもって深刻さを感じたセキュリティインシデントだったと語った。さらに、新たな能力水準に対して社会が防御を固める十分な時間を確保するため、AI業界はAI開発のペースを調整しなければならなくなる可能性があると述べた。
■ワシントンにおける動きと8月1日の期限
両社が支持を表明した同じ日、Altman氏は米連邦議会を訪れていた。水曜日の2026年7月29日、Altman氏は上院商務委員会の委員長を務める共和党のTed Cruz上院議員と面会した。Altman氏は記者団に対し、OpenAIの次期AIモデルや、米国がこの技術分野で競争力を維持するために必要な条件について話し合ったと説明した。また、6月の大統領令を実施するためのフレームワーク案を確認したと述べ、同じ週にホワイトハウスのSusie Wiles首席補佐官と会談する予定であることも明らかにした。
現職のCEOがAI法制について議会に働きかける一方、その会社が国際的な開発ペース調整の枠組みを同時に支持している。この並行した動きは、OpenAIが現在置かれている立場の複雑さを表している。
支持表明は、Cruz氏が委員長を務める上院商務委員会が、Kids Online Safety ActやAI関連法案を含む法案の審議・修正を行うマークアップを7月29日に予定していた時期とも重なった。
8月1日は、トランプ大統領が2026年6月2日に署名した大統領令第14409号に基づく60日目の期限である。この大統領令は連邦機関に対し、フロンティアAIモデルの開発者がモデル公開前に政府と連携するための自主的な枠組みを設計するよう指示している。この枠組みは明確に任意参加とされており、大統領令にも、強制的なライセンス制度や事前認可制度を設ける権限を与えるものではないと明記されている。
大統領令によって設計されるのは、どのモデルを対象となるフロンティアモデルに指定するかを判断するための機密ベンチマークと、開発者が他の信頼できるパートナーにモデルを提供する前に、政府とモデルを共有する最長30日間の任意の事前審査期間である。対象モデルに該当するかどうかの判定には、NSA（米国家安全保障局）が関与する。
書簡の署名者が求めているものは、これとは根本的に異なる。国内での公開前審査ではなく、国際的かつ協調的に、開発ペースそのものを調整する仕組みである。AIシステムの自己改善が社会の管理能力を超える速度で始まった場合に、検証可能な形で関係者が一斉に開発を減速できるようにするものであり、現時点ではどの国・地域にも存在していない。
評価をどの政府機関が担うべきかについても見解の相違がある。OpenAIが2026年6月3日に公開した連邦政府向けフレームワーク案は、カリフォルニア州、ニューヨーク州、イリノイ州ですでに成立している安全関連法を基盤として、商務省のAI安全基準を担う組織を政府の中心的機関に据えるべきだと主張した。これに対し、6月の大統領令は、対象モデルを決める判断にNSAを関与させている。
■ザッカーバーグ氏が示した反対論
この書簡に対しては、AI業界内から異論も出ている。MetaのCEOであるMark Zuckerberg氏は、2026年7月28日付のWall Street Journalに寄稿し、AIを広く行き渡らせる利益はリスクを上回り、危険なのはAIが過度に高性能になることではなく、その能力が少数に集中することだと主張した。MetaのチーフサイエンティストであるShengjia Zhao氏が個人として「Pacing the Frontier」に署名する一方で、同社のCEOは、その前提への直接的な反論とも読める論考を発表したことになる。
Zuckerberg氏の寄稿と並行して、Meta、Nvidia、Microsoft、Palantirが署名した業界連合の書簡も公開された。この書簡は規制当局に対し、オープンウェイト形式のモデルを制限しないよう求めている。
2つの陣営の違いは、企業レベルでも明確になった。一方は、最先端AIの能力が向上するペースと、その能力の集中を制御することが安全性には必要だと主張する。もう一方は、単独の主体が悪用できないほど広くAI能力を分散させることが安全性につながると主張する。両陣営は同じ週に、それぞれの立場を公にした。
■「国際的」という言葉が抱える最大の課題
書簡が抱える最大の未解決問題は、政治だけでなく技術にも関係する。Anthropicは6月の研究で、この問題を直接認めている。AIの学習処理はミサイルサイロよりはるかに隠しやすく、必要な入力資源も汎用的である。他の参加者が開発を止めている間に開発を続けた主体が、そのまま競争上の首位に立つ可能性がある。
米国が支援する国際的な開発ペース調整の仕組みは、米国に本社を置くフロンティアAI研究機関とそのモデルを主な対象とするのが自然だろう。そうした組織は、すでに米国の法的管轄と市場からの圧力の下にある。一方、現在想定される仕組みでは、署名活動が広まる数週間前にMoonshot AIが公開したKimi K3のような、中国のオープンウェイトモデルの開発を拘束できない。オープンウェイトモデルは公開後にモデルの重みをダウンロードできるため、モデルの重みを公開前に審査する制度では管理できないからだ。
つまり、米国の非公開型モデルを開発する研究機関が設計し、米政府が支援する枠組みは、自発的に参加した主体だけを制約する一方、そもそも枠組みが必要とされる原因である競争圧力を未解決のまま残す可能性がある。Anthropicが示した軍備管理との類推も、この非対称性に直面する。核兵器に関する条約が機能したのは、核弾頭の数を検証でき、双方に交渉する理由があったためだ。AIの学習処理は秘匿できる。核兵器における検証制度に相当する仕組みは、AI分野ではまだ見いだされていない。
リバタリアン系の技術政策アナリストであるAdam Thierer氏は、この署名活動を「憂慮すべき動き」と評価した。AI業界全体に対する世界的な開発ペースの制約を米政府が提唱するよう求めることは、とりわけオープンソースに対して明白な反競争的影響を及ぼすと主張している。PitchBookによると、OpenAIとAnthropicは2026年上半期、米国のAIスタートアップに投じられたベンチャーキャピタルの60％超を2社で獲得した。現在、業界全体に国際的な開発ペースの制約を設けるよう政府に求めているのは、この2社である。
■明確になった両社の立場
AI研究機関にとって当面の焦点は、8月1日に設計される任意の公開前審査の枠組みが、より拘束力のある制度のひな型になるかどうかである。また、国際的なパートナーと制限を調整することより、中国に対する競争上の優位を維持することに強い関心を示してきたワシントンで、国際的なペース調整の構想が支持を得られるかどうかも焦点となる。
一方、OpenAIとAnthropicの立場は、もはや明確である。両社は従業員が個人として署名することを認めただけでなく、組織として「Pacing the Frontier」を支持し、その立場を公の記録に残した。両社の主張は、AI開発を今すぐ止めるべきだというものではない。AIが次のAIを設計し、そのAIがさらに次のAIを設計する段階に達する前に、世界は必要なら開発を止められる能力を構築しておくべきだというものだ。その段階に至れば、行動できる時間が残されているとは限らないためである。
この書簡は、pacingthefrontier.comで、フロンティアAI企業に勤務する本人確認済みの従業員から引き続き署名を受け付けている。
■注目ポイントQ&A
●OpenAIとAnthropicは何を支持し、過去のAI安全性に関する公開書簡とどう違うのですか？
両社は、2026年7月28日に公開された「Pacing the Frontier」を企業として正式に支持しました。この書簡には、フロンティアAI企業で働く本人確認済みの従業員1,268人が署名しており、必要になった場合にフロンティアAIの開発を意図的に減速できる国際的な手段の構築を、米政府が支援するよう求めています。
2023年に広く流通した、AI開発の6カ月間の一時停止を求める書簡など、過去の公開書簡は、企業幹部を含む個人が個人の立場で署名したものでした。今回はOpenAIとAnthropicが、それぞれ企業名で支持声明を発表しています。また、要求の内容も過去の書簡より限定的かつ実務的です。直ちに開発を止めるのではなく、単独の主体だけが一方的に停止しなくても、将来、協調して減速できる技術的手段とガバナンス基盤の整備を求めています。
●再帰的自己改善とは何ですか？なぜAnthropicのデータが書簡の根拠になっているのですか？
再帰的自己改善とは、AIシステムが人間の関与をほとんど必要とせず、より高性能な後継システムを設計・構築できるようになる段階を指します。改善が繰り返されることで、人間の監督能力を超える速度まで加速する可能性があります。
Anthropicが2026年6月4日に公開した研究報告によると、同年5月時点で、同社の本番コードベースにマージされたコードの80％超をClaudeが作成していました。2025年初頭には1桁台前半だった割合が、大幅に上昇したことになります。ただし、この数値はAnthropicが再帰的自己改善の段階に到達したことを意味しません。その前兆を測定できるようになり、進展が加速していることを示すものです。書簡は、その段階を超えた後ではなく、超える前にガバナンスの手段を構築するよう米政府に求めています。
●ペース調整の枠組みは、AI開発を続ける国や企業も実際に拘束できるのですか？
これは書簡が抱える最大の未解決問題です。Anthropicも自社の研究で、AIの学習処理はミサイルサイロより検証や監視がはるかに難しく、他の参加者が減速する間に開発を続けた主体が競争上の優位を得ると認めています。
米国が支援する仕組みは、現在想定される形では、米国の法的管轄下で活動する米国本社の非公開型AI研究機関を主に対象とします。一方、Moonshot AIのKimi K3のような中国のオープンウェイトモデルの開発者は拘束できません。こうしたモデルは公開後に一般の利用者がモデルの重みをダウンロードできるため、公開前の審査を前提とする制度では管理できないからです。「国際的」な枠組みという構想は、AIの学習インフラを対象とする、軍備管理の査察制度に相当する検証手段が開発されるまでは、依然として目標にとどまります。
●2026年8月1日のホワイトハウスの期限では何が決まり、両社の要求とどう違うのですか？
2026年6月2日に署名された大統領令第14409号は、連邦機関に対し、フロンティアAIモデルの開発者がモデルの公開前に政府と連携するための任意の枠組みを、60日以内に設計するよう指示しました。8月1日は、その枠組みを設計する期限であり、AI企業が何らかの義務を履行しなければならない期限ではありません。
この枠組みで設けられるのは、どのモデルが対象となるフロンティアモデルに該当するかを判断するための機密ベンチマークと、開発者がモデルを広く公開する前に政府と共有する最長30日間の任意の事前審査期間です。この枠組みは明確に任意参加であり、強制的なライセンス制度や事前認可要件を新設するものではありません。
一方、「Pacing the Frontier」の署名者が求めているものは、国内での任意の公開前審査ではありません。必要になった場合に、フロンティアAI開発全体を検証可能かつ協調的に減速できる国際的な仕組みです。
元記事: OpenAI, Anthropic Formally Back Plan to Slow AI That Writes Its Own Code