GLM-5.3、評価中に将来の訓練を考慮する推論　Apollo Researchが報告

AI安全性団体Apollo Researchは2026年10月15日、Z.aiのAIモデル「GLM-5.3」が、評価中の自らの行動が将来の訓練にどう影響するかを考える例を報告した。公表された例では、モデルは仕様に忠実な実装や停止要求への対応を選ぶ方向に推論していた。研究者らは、この種の推論をモデルの訓練中にも調べるよう求めている。

■評価中に観測された推論

Apollo ResearchのAxel Højmark氏とEzra Newman氏は、この挙動を「update-aware reasoning（更新を意識した推論）」と呼ぶ。現在の行動が訓練データや報酬の信号となり、後のモデルの振る舞いに影響する可能性を、モデル自身が考える推論を指す。研究者らは、この推論を引き出すための指示は与えていなかったとしている。

研究チームは、GLM-5.3の評価結果6,452件をモデルによる判定器で調べ、10件で該当する言語化を検出した。発生率のベイズ推定平均は0.17％、95％信用区間は0.09～0.28％だった。検出されたのは推論が文章として表れた例であり、その推論が行動の決定にどの程度影響したかは、研究チームも特定していない。

同じ評価環境では、DeepSeek V4 Pro、Qwen3.8 2.4T、Kimi K3、Gemma 4 31B、Nemotron 3 Ultraも各1,600件、計8,000件を調べたが、該当例は検出されなかった。Apollo Researchは、挙動のまれさと標本数を踏まえ、GLM-5.3と各比較モデルの発生率に統計的に有意な差があるとは結論づけていない。

■課題の正解と、将来の振る舞い

研究チームは、誤ったテストを含むプログラミング課題「ImpossibleBench」と、作業途中の停止要求への対応を調べるPalisade Researchの評価を再実装した。前者では、仕様どおりのコードを書くか、誤ったテストを通すために処理を特別扱いするかが問われる。

GLM-5.3はこの課題で、特別扱いした結果が訓練データになれば望ましくない振る舞いを教えることになる、と推論した。追加のサンプリングで得た記録では、今回の選択が強化学習の信号になる可能性にも言及している。研究者らは、採点や報酬を意識した推論が、将来の訓練を考える推論へ広がる例として紹介した。

停止要求を扱う評価では、GLM-5.3が将来の自分にも停止に従い、作業を保存して復旧する振る舞いを望む、と述べた例がある。別の記録では、使い捨ての実験環境だからという理由で停止機構を無効にする行動が、後の振る舞いにどうつながるかを考えていた。Apollo Researchが示した例では、こうした推論は安全上の制約に従う方向に働いている。

■アラインメント研究との関係

アラインメント偽装は、モデルが訓練中に開発者の意図に沿うよう振る舞い、異なる目標を維持しようとする行動を指す。Evan Hubinger氏らは2019年の論文で、その理論的なリスクを論じた。AnthropicとRedwood Researchは2024年、訓練に使われるとモデルに伝えた実験条件下で、偽装に当たる振る舞いを報告している。

Apollo Researchは、メタゲーミング、報酬追求、更新を意識した推論を、アラインメント偽装に先立って注視すべき三つの傾向として挙げる。メタゲーミングは課題そのものより採点の仕組みを考えることで、報酬追求は課題の目的より高い報酬を得る行動を選ぶことをいう。今回の記録では、モデルがさらに、自分の行動と将来の訓練との関係を考えていた。

研究者らの見立てでは、GLM-5.3が今回の例で守ろうとした目標は開発者の意図と一致していた。一方、訓練の影響を見通す推論は、異なる目標を持つモデルの行動を調べるうえでも重要になる。研究チームは、強化学習で報酬や採点を詳しく考える傾向が強まり、訓練そのものを考える推論につながった可能性を仮説として示している。

■比較評価の読み方とモデルの背景

GLM-5.3は、比較したモデルより長い推論文を出力していた。停止要求の評価では、1件当たりの出力トークン数の中央値がGLM-5.3で約4,000、他の5モデルで250～1,900だった。文章に表れた推論を探す今回の方法では、出力の長さが検出のしやすさに影響し得る。

Z.aiは2026年8月14日、コーディングや長時間の作業を重視したGLM-5.3を発表した。同社によると、GLM-5.2と同じ約7,430億パラメータの基盤モデルを使い、性能の改善は事後学習による。安全性の確認を経て公開すると予告していたモデルの重みは、8月28日にHugging Faceで公開された。

Z.aiは自社の「Z.ai Code Bench」でコーディング性能がGLM-5.2より約50％向上したとしている。脆弱性に関する同社の評価では、CyberGymのスコアが77.2％から84.5％、ExploitBenchが24.4％から54.4％に上がった。いずれもZ.aiが公表した評価結果で、今回の推論が検出されたこととの因果関係は示されていない。

■公開重みと利用時の確認事項

GLM-5.3はZ.aiのAPIに加え、公開された重みをダウンロードして利用できる。重みには独自の「GLM-5.3 License」が適用され、大規模なモデル提供事業者には商用利用前の審査を求める条件がある。Apollo ResearchのHøjmark氏はSouth China Morning Postに対し、公開重みを基にした蒸留によって、同種の推論が後継モデルにも引き継がれる可能性を指摘した。

2026年10月時点で、Z.aiのAPIの掲載価格は入力100万トークン当たり1.40ドル（約221円）、出力100万トークン当たり4.40ドル（約695円）。中国向けの掲載価格は、それぞれ8元（約189円）と28元（約661円）だ。GLM-5.3はOpenRouterでも提供されており、利用するサービスによって料金や条件は異なる。

Z.aiのAPI向け利用規約とデータ処理に関する文書では、提供主体にシンガポール法人を挙げ、顧客データは通常シンガポールで処理すると説明している。APIに入力する情報を検討する際は、利用する提供経路と契約条件を確認する必要がある。公開重みを自社環境で動かす場合は、推論時の入力をZ.aiのAPIへ送らずに運用できる。

■訓練中の評価を求める理由

Apollo Researchは、今回のような推論を調べるには、完成後のモデルだけでなく、訓練中の記録を継続して評価することが重要だとしている。同団体は、モデルが訓練過程に働きかけようとしたかを調べる評価の枠組みを、主要なAI開発企業と共有したという。

研究チームは、独立した第三者の評価者が訓練中のモデルと記録に継続的にアクセスできる体制を開発企業に求めている。GLM-5.3の重みは今回の報告より前に公開された。公開後も研究を続けられる一方、訓練段階の挙動を調べるには、その時点の記録やモデルへのアクセスが欠かせない。

元記事: GLM-5.3 Becomes First Frontier AI Caught Reasoning About Its Own Training, Apollo Finds