元OpenAIセーフティ部門トップのLilian Weng氏が復帰、AIの「再帰的自己改善」研究を主導へ
2026年7月31日 00:08
Lilian Weng氏がOpenAIに復帰し、AIが自らを改良する「再帰的自己改善（RSI）」の研究を主導することが明らかになった。同氏は健康上の理由により、共同創業したAIスタートアップのThinking Machines Labを退社していた。OpenAIが今後10年で最も重大な影響を及ぼす可能性のある安全上の課題と位置づけるRSI領域を、セーフティ部門の元トップが率いることの意義に注目が集まっている。
■セーフティチームの構築者が、最も厳格な監督を要する研究を率いる
Lilian Weng氏は、ファインチューニングAPIやモデレーションエンドポイントの開発、そして最終的には80人以上の科学者らからなる統合チームの構築など、7年近くにわたりOpenAIのセーフティインフラを支えてきた。そして本日、同氏はOpenAIに復帰し、「再帰的自己改善（recursive self-improvement：RSI）」の研究を主導することになった。OpenAI自身が2026年6月のガバナンス方針で「今後10年で最も重大な影響を及ぼす可能性のあるフロンティアセーフティ上の課題」と呼んだ研究プログラムである。世界有数のリソースを持つAI研究所において、特に厳格な監督を必要とする研究課題の責任者にセーフティの設計者が就任する。この組み合わせこそがWeng氏の復帰の核心であり、AIの最前線がどこへ向かっているかを示すものでもある。
The Informationの報道によると、OpenAIの広報担当者は水曜日にWeng氏の採用を認めた。その2日前には、元OpenAI CTOのMira Murati氏らと2025年2月に共同創業したAIスタートアップ、Thinking Machines Labからの退社が発表されていた。OfficeChaiが報じたところによれば、Weng氏は7カ月間にわたる健康上の問題を理由に挙げ、スタートアップの経営陣に求められるペースで働き続けることができなくなったと説明している。
Weng氏は2018年にOpenAIに入社し、当初はロボティクスチームで、ルービックキューブを解くロボットハンドの訓練プロジェクトなどに貢献した。OpenAIが大規模言語モデルへと軸足を移すにつれ、彼女の関心も移行した。Fellows Fundの経歴紹介に記されているように、彼女はApplied AI Researchチームを設立して率い、ファインチューニングAPI、埋め込みAPI、モデレーションエンドポイントといった基盤的な開発者向けインフラを提供した。GPT-4の公開後には、OpenAIのセーフティに関する取り組みを、80人以上の科学者、研究者、エンジニアからなる単一のチームに統合した。この節目については、彼女が最初に退社した際にTechCrunchが報じている。
彼女は最終的にリサーチおよびセーフティ担当バイスプレジデントに就任し、2024年8月から同年11月に退社するまでその職を務めた。退社時、Weng氏は、7年近くが経過し、いったんリセットして新しいことに挑戦する準備ができたと明確に述べていた。彼女の退社は、Jan Leike氏やIlya Sutskever氏など、OpenAIの方向性に公然と懸念を示したセーフティ部門のリーダーが相次いで離れた時期と重なっていた。
そして今、彼女は「OpenAIの再帰的自己改善研究を主導する」という明確な使命を帯びて戻ってきた。
■再帰的自己改善の実像と「ハーネス」の重要性
再帰的自己改善（RSI）という用語は、理論的なAIセーフティ分野で長い歴史を持つが、その実践的な意味はこの2年間で大きく変化した。アラン・チューリングと共に働いた英国の数学者I.J.グッドは、1965年の論文でこの概念を初めて記述し、超知能機械が自らより優れた機械を設計することで、「知能爆発」を引き起こし得るとした。2008年にはエリエザー・ユドコフスキーが、AIが現在の知能を使い、その知能を生み出す認知機構を改善するフィードバックループとして、この表現を定式化した。
2026年2月、OpenAIはGPT-5.3-Codexをリリースした際、注目すべき事実を公表した。Communications of the ACMが報じたように、同モデルの初期バージョンが「自らを生み出すうえで重要な役割を果たし」、学習処理のデバッグやデプロイ用インフラの管理を支援したという。これは、フロンティアAI研究所が、自社モデルの一つがその後継モデルを生み出すエンジニアリングのサイクルに実質的に貢献したと明示的に認めた初の事例だった。それまでアライメント理論の中に存在していた概念が、実践的かつ限定的な形で現れたものといえる。
現在のRSIが何を意味し、その短期的な道筋が実際にどのようなものになるのかについて、Weng氏自身の見解は、7月4日に研究ブログ「Lil'Log」へ投稿した「Harness Engineering for Self-Improvement」に示されている。約35本の論文の知見を統合したこの投稿で、彼女は「ハーネス（harness）」という概念を中心にRSIを捉え直した。ハーネスとは、ベースモデルを取り囲み、その実行を統括するシステムのことである。具体的には、ツールの呼び出し、計画の反復、ファイルシステムを使った永続的なメモリ、サブエージェントへの処理の委譲、評価などを管理する。質問に答えるモデルと、数カ月にわたる研究パイプラインを実行するモデルを分けるのが、このハーネスである。
彼女の中心的な主張は、再帰的自己改善への短期的な道筋は、モデルが自身の重みを書き換えることではなく、ハーネスの改善を通じて開かれるというものだ。この投稿を公開した際、彼女はXに「ハーネスエンジニアリングは自己改善を可能にする方向へ進化し、自動研究を実現する可能性が高い。そしてその結果、より賢いモデルによってハーネスをシンプルに保てるようになる」と投稿した。
この捉え直しは、技術的に重要である。研究によれば、モデルがハーネスの改良案を書く能力は、幅広いモデル規模にわたって向上している。90億パラメータのモデルでも、Claude Opus 4.6が生成したものに構造上匹敵するハーネスの更新案を書けるという。しかし、その更新から実際に恩恵を受け、改良されたハーネスを長期的なタスクで効果的に使う能力は、基盤となるモデルの能力に応じて伸びる。この2つの軸は分けて考えることができる。つまり、ハーネスの改良は、ある側面ではモデル能力より先に進められる一方、別の側面ではモデル能力によって制約されることになる。
Weng氏の投稿では、3つの基本的なハーネス設計パターンが説明されている。エージェントが目標を達成するまで実行、テスト、反復を続ける「ワークフロー自動化ループ」、モデルのコンテキストウィンドウに収まらない長期タスクに対応するため、ファイルシステムを永続的なメモリとして使用する設計、そして複数の仮説を並行して検証するためのサブエージェント生成とバックエンドジョブ管理である。こうした構造的パターンに加え、彼女はAgentic Context Engineering（ACE）、Meta Context Engineering（MCE）、Meta-Harnessフレームワーク、Self-Harness、Automated Design of Agentic Systems（ADAS）など、ハーネス最適化研究の最前線を概観している。これらはすべて、ハーネスを固定された足場ではなく、それ自体を最適化の対象として扱う研究である。
■研究サマリーに記されたリスクと制御の必要性
Weng氏の投稿は、RSIで何が可能になるかを示す案内図であるだけでなく、何が失敗し得るかを整理したものでもある。
彼女が挙げる最も具体的な失敗モードは「報酬ハッキング（reward hacking）」である。これは、自己改善システムが設計者の意図した結果ではなく、測定に使われる代理指標を最適化してしまう現象で、グッドハートの法則と強く関連する。自らの足場を再帰的に改善するよう設計されたシステム「Self-Taught Optimizer（STOP）」の研究では、高性能なベースモデルで実行した場合、わずか4回の自己改善を経た段階で報酬ハッキングの挙動が現れた。一方、GPT-3.5やMixtralなど、能力が比較的低いベースモデルでは、反復を重ねても性能が向上せず、かえって低下した。Weng氏はこの結果を挙げ、再帰的な構造だけでは不十分であり、ベースモデルには自己改善を建設的に利用できるだけの能力が必要だと主張している。
報酬ハッキングを含め、彼女は完全なRSIという構想に向けた6つの構造的課題を挙げている。新しい研究成果を確実に採点できない、精度が低く曖昧な評価器。タスクが現実的なコンテキストウィンドウの範囲を超える際の、コンテキストとメモリのライフサイクル管理。学習データに肯定的な成果が偏っているため、モデルが失敗した仮説を見切って放棄することが苦手になる問題。進化的な最適化ループにおける多様性の崩壊。そして、短期的なベンチマーク性能と長期的なエンジニアリング品質の不一致である。例えば、目の前のタスクを完了したコーディングエージェントが、同時に共有コードベースの長期的な保守性を損なう可能性がある。
最も根本的な制御の問題に対する彼女の提言は明快だ。評価器と権限制御レイヤーは、ハーネスを進化させるループの外側に配置しなければならない。システムが自身の評価器を変更できれば、その評価器を欺く方法を学び得るからだ。人間による監督は「適切なタイミングで、適切な抽象度で」行う必要があり、後から付け加えるのではなく、明示的な意思決定ポイントとしてアーキテクチャに組み込まなければならないと彼女は主張している。
■すでにRSIを中心に据えていたOpenAIの研究計画
Weng氏の採用は、OpenAIがすでに明示していた研究ロードマップと合致する。チーフサイエンティストのJakub Pachocki氏は2026年3月、MIT Technology Reviewに対し、完全に自動化されたAI研究者の構築が今後数年間におけるOpenAIの「北極星」、すなわち最重要目標であると語った。同研究所は、少数の特定の研究課題に独力で取り組めるシステム「自動AIリサーチインターン」を2026年9月までに実現することを目指していた。目標時期まで、すでに5週間を切っている。完全自動化されたマルチエージェント研究システムについては、2028年の実現を目標としている。
2026年6月に発表した政策提言書の中で、OpenAIはRSIを「今後10年で最も重大な影響を及ぼす可能性のあるフロンティアセーフティ上の課題」と呼ぶ一方、中核的な研究の優先事項にも位置づけた。この提言書は、設置が提案されている米連邦機関「CAISI」に対し、RSIを独立した技術評価における「緊急の優先事項」として扱うよう求めている。また、OpenAIのPreparedness Framework Version 2では、RSIが「Critical」のしきい値に達した状態を、2024年時点で同等の進歩に必要だった実時間の約5分の1で、AIシステムに世代レベルの改善をもたらせるモデルと定義している。
他のフロンティアAI研究所で並行して進む研究も、OpenAIがRSIの責任者という役割を設け、そのために人材を採用する価値があると考えた理由を浮き彫りにする。2026年5月、Anthropicは、Claudeが同社の本番環境向けコードの約80％を書いており、Claudeエージェントが約800時間に及ぶ自由度の高いAIセーフティ研究実験を実施したと明らかにした。2025年に公開されたGoogle DeepMindのAlphaEvolveは、LLMの学習時間を約1％短縮するアルゴリズム上の改良を発見した。1％という数字は小さく見えるが、反復のたびに得られるごくわずかな学習効率の向上が、数千回の実行を通じて積み重なるAI研究の文脈では、意味のある成果である。
■セーフティの経歴は実質的な制約となるのか
Weng氏の採用によって生じる疑問の一つは、セーフティ分野の訓練と経験を持つ研究者がRSI研究を率いることで、研究の進め方に実質的なアーキテクチャ上の制約が加わるのかという点だ。それとも、研究の構造自体は変えず、外部に対して安全性に配慮していると示すための経歴や肩書にとどまるのか。本稿で参照した情報源からは、まだ答えが得られていない。
この懸念は、単なる仮定ではない。OpenAIで危険な能力の評価を率いていたSteven Adler氏は、OpenAIがRSI研究の構想を発表した際、その方向性は「セーフティ上の課題をはるかに難しくする」と公に記した。OpenAIでポリシー部門の責任者を務めたMiles Brundage氏も、ControlAIを通じて、AI企業は「再帰的に自己改善するAIが何を意味するのか、なぜそれが良いと考えるのか、あるいは、より大きなリスクがなぜ正当化されるのか」をまだ説明していないと指摘した。2026年1月の世界経済フォーラムでは、Google DeepMindのCEO、Demis Hassabis氏が、主要な研究所が構築しようとしているループを安全に完結できない可能性を率直に認めた。「われわれ全員が取り組んでいる自己改善ループは、人間を介在させずに実際に完結できるのか。それは今後明らかになる」と述べている。
Weng氏自身のRSIに関する投稿は、楽観論ではなく、自らを改善する能力を持ちつつあるシステムの中で人間が果たすべき役割を問う言葉で締めくくられている。「人間はスタックの上位に移るべきであって、ループから排除されるべきではない。つまり、人間は適切なタイミングで、適切な抽象度で監督を行うべきだ。（中略）結局のところ、われわれは人類のより良い未来のために技術を構築しているのであって、その逆ではない」。この主張の全体は、彼女のLil'Logへの投稿に記されている。
OpenAIのRSIプログラムに彼女が加わることで、その原則に構造的な重みが生まれるのか。それとも、安全性に関する意見は聞かれても、方針を決定する力を持たない社内の声にとどまるのか。今後1年、この人事を巡ってより重要になるのは、その問いだろう。
■共同創業者6人のうち4人が離れたThinking Machines
Thinking Machines LabからのWeng氏の退社は、OpenAIへの復帰が確認される2日前にXで発表された。当時OfficeChaiが報じたように、彼女が同僚と共有したメモは、AI企業の共同創業者による退社表明としては異例なほど率直だった。彼女は、罪悪感を抱えながら休養したこと、病気によって十分に果たせなくなった役割にも100％の力を注ぎたいと考えていたこと、より限定された役割に移る案も検討したものの、責任の範囲を縮小して共同創業者にとどまることは自分らしくないと結論づけたことを記していた。
「自分が責任を負うべきことに100％の力を注げないなら、私は自分の役割を果たせていません」と彼女は書いた。
Mira Murati氏が2025年2月に6人のチームで同社を設立して以来、彼女は会社を離れる4人目の共同創業者となる。Andrew Tulloch氏は2025年10月にMetaへ移籍した。OfficeChaiが伝えたように、Barret Zoph氏とLuke Metz氏は2026年1月に退社し、両氏ともOpenAIに復帰した。一方、Murati氏、チーフサイエンティストのJohn Schulman氏、Zoph氏の退社後にCTOへ就任したSoumith Chintala氏が、現在も共同創業者として同社に残っている。
このタイミングは、Thinking Machinesにとって説明の難しい状況を生み出している。7月15日、同社は「Inkling」を公開した。タスク当たり410億のアクティブパラメータ、100万トークンのコンテキストウィンドウを持つ、総パラメータ数9,750億のMixture-of-Experts（MoE）モデルである。テキスト、画像、音声、動画を含む45兆トークンで学習されている。Apache 2.0ライセンスで公開され、同社のファインチューニングプラットフォーム「Tinker」を通じて利用できる。InklingはArtificial Analysisによる米国製オープンウェイトモデルのランキングで首位に登場し、Intelligence Indexで41を記録した。それまでの米国製オープンウェイトモデルの最高スコアは38だった。17カ月にわたってほぼ沈黙を保ちながら開発を続けてきたスタートアップの最初のモデルとして、どのような妥当な基準で見ても強力な成果だった。
Weng氏の退社は、その公開から2週間もたたないうちに発表された。同社は、彼女自身のメモ以外にはコメントしていない。Mira Murati氏はXで、「あなたが健康を第一に考えてくれてうれしい」と反応した。Murati氏らしい簡潔な言葉だった。
■OpenAIのRSI研究が示すもの
より広範なフロンティアAI業界にとって、Weng氏の任命は、再帰的自己改善がAIセーフティを巡る理論的な議論の領域から、世界有数のリソースを持つ研究所における具体的なエンジニアリング課題へ移ったことを示す。専任の上級責任者も置かれた。OpenAIは既存システムに見られるRSIの初期的な兆候をすでに明らかにしている。2026年9月の「AIリサーチインターン」の目標時期は数週間後に迫り、同社の政策文書も、この能力をどう統治するかを緊急かつ未解決の課題として扱っている。
Weng氏がもたらす稀有な要素は、この役割に就く前から、RSIが生み出す具体的なエンジニアリング上の問題を公の場で継続的に検討してきたことだ。少なくとも彼女ほどの職位にある研究者としては、極めて珍しい。7月4日の投稿は単なる評論ではなく、35本の論文を対象とした技術レビューであり、今後その問題領域のただ中で研究することを見据えたかのような精度で、課題の全体像を整理している。彼女は評価器をどこに置くべきかを理解している。報酬ハッキングがどの段階で現れ得るかを把握している。そして、人間をループ内に残さなければならないと明記している。
その考え方が、OpenAIを取り巻く競争圧力にさらされた後も維持されるのか。研究コミュニティは、その点を注視することになるだろう。
■注目ポイントQ&A
●AIにおける再帰的自己改善とは何ですか？単にAIモデルが良くなることとどう違うのですか？
当初の定義では、再帰的自己改善とは、AIが自身のコードやアーキテクチャを直接書き換えて、より賢い後継システムを生み出し、その後継システムがさらに同じことを繰り返す仕組みを指しました。I.J.グッドが1965年に「知能爆発」を引き起こす可能性があると記述した、改善が連鎖的に加速するループです。しかし、現在フロンティアAI研究所で実際に進んでいる取り組みは、より限定されたものです。AIシステムは自身の重みを直接書き換えられないものの、学習処理のデバッグ、コードの最適化、デプロイの管理などを通じて、次世代モデルを生み出すエンジニアリングパイプラインに実質的に貢献しています。Weng氏の重要な主張は、AIがモデルのパラメータを直接改善するのではなく、モデルを取り巻く足場であるハーネスを改善する手法こそ、短期的に実現可能なRSIの形であり、すでに部分的に始まっているというものです。
●他の研究者ではなく、Weng氏がこのプログラムを率いることがなぜ重要なのですか？
Weng氏の任命が通常の採用以上の意味を持つ理由は2つあります。第一に、彼女はフロンティアAI研究所で大規模なセーフティインフラを率い、OpenAIのセーフティチームを構築、統合した経験を持っています。同時に、RSIに関わる役割へ就く前から、その技術的な問題領域を公の場で継続的に整理してきました。同等の職位にある研究者の中で、この両方の経験を持つ人物は多くありません。第二に、彼女の採用は、RSIプログラム内のセーフティ経験を持つ研究者が、研究の進め方に対する実質的なアーキテクチャ上の制約として機能するのか、それとも、安全性に配慮しているという対外的な印象を与える役割にとどまるのか、という構造的な問いを生じさせます。その答えは任命そのものではなく、プログラムがどのように設計されるかによって明らかになるでしょう。
●Weng氏がLil'Logの投稿で特定した、再帰的自己改善研究の具体的なリスクとは何ですか？
Weng氏は、報酬ハッキングを含む6つの構造的課題を挙げています。新しい研究成果を確実に採点できない弱い評価器、タスクが現実的なコンテキストウィンドウを超えて拡大する際のコンテキストとメモリの管理、肯定的な成果への偏りによって失敗した仮説を放棄しにくくなる問題、局所的な最適解へ収束する最適化ループにおける多様性の崩壊、意図した結果ではなく代理指標を最適化する報酬ハッキング、そして短期的なベンチマーク性能と長期的なエンジニアリング品質の不一致です。報酬ハッキングについては、わずか4回の自己改善後に現れた研究例が示されています。彼女が提案する制御方法は、評価器と権限制御レイヤーを自己改善ループの外側に配置し、アーキテクチャに組み込まれた明示的な意思決定ポイントで人間の監督を機能させるというものです。
●共同創業者が相次いで離れたThinking Machines Labは今後どうなるのでしょうか？
Thinking Machinesは、Mira Murati氏のリーダーシップの下、チーフサイエンティストのJohn Schulman氏、CTOのSoumith Chintala氏らと事業を継続します。同社は最初のモデル「Inkling」を公開しており、7月15日の公開から数日以内に、Artificial AnalysisのIntelligence Indexで米国製オープンウェイトモデルの首位に入りました。競合企業への移籍や、Weng氏の場合のような健康上の事情による共同創業者の相次ぐ離脱が、フロンティアAI分野で競争するために必要な技術力を維持し、新たな人材を獲得する同社の能力に影響するかどうかは、まだ分かりません。Thinking Machinesは、Inkling公開後の次の節目についてコメントしていません。
元記事: OpenAI’s Safety Architect Lilian Weng Returns With a Single Mission: Making AI Improve Itself