NVIDIAの次世代AIプラットフォーム「Vera Rubin」、推論トークンコストをBlackwell比10分の1に削減と主張
2026年7月20日 13:09
NVIDIAは2026年7月17日、次世代AIプラットフォーム「Vera Rubin」の技術詳細を公開した。同プラットフォームは、7つのチップをシリコンレベルから共同設計するアプローチにより、強化学習やエージェント型推論におけるトークンあたりのコストを業界で最も低い水準に抑えられるとしている。本番規模での独立した検証はまだ行われていないものの、2026年第3四半期には最初のクラウド展開が始まっており、Vera CPUの初期の第三者ベンチマークも進められている。
■ポストトレーニングが主戦場に：強化学習ループがもたらす計算需要の増大
2026年、AI開発の最前線における計算ワークロードの中心は、事前学習（プリトレーニング）から事後学習（ポストトレーニング）へと静かに移行している。NVIDIAが7月17日に公開した技術ブログによると、同社のVera Rubinプラットフォームは、この移行に対応するために設計された7チップ構成のアーキテクチャを採用している。ハードウェアとソフトウェアをシリコンレベルから一体的に開発する「極限の共同設計（extreme codesign）」戦略により、強化学習ループやエージェント型推論において、利用可能なシステムの中で最も低いトークンあたりコストを実現すると同社は主張している。
この主張を検証する手がかりとなる具体的な数値も公表された。NVIDIAの技術ブログによると、Vera Rubin NVL72ラックに搭載されるRubin GPUは、GPUあたり22 TB/sのHBM4総帯域幅を備える。これはBlackwellの8 TB/sと比較して2.8倍である。また、GPU間の相互接続技術であるNVLink 6は、GPUあたり双方向3.6 TB/sに達し、Blackwellの1.8 TB/sから倍増している。NVIDIAは、これらの性能向上を組み合わせることで、大規模な混合専門家（MoE）モデルのトレーニングに必要なGPU数をBlackwellの4分の1に減らし、推論時のトークンコストを10分の1に削減できるとしている。ただし、いずれの数値も本番規模で独立して検証されたものではない。最初のクラウド展開は2026年第3四半期に始まっており、Vera CPUの初期の第三者ベンチマークも進められている。
■なぜ継続的な強化学習がAI計算の決定的な課題なのか
コストを巡る議論を理解するには、最先端のAI研究機関が予算をどのような処理に振り向けているのか、その変化を把握する必要がある。キルティ・デベレカー（Kirthi Develeker）氏が執筆したNVIDIAの7月17日付ブログでは、従来は順番に行うものと考えられてきたものの、現在では並行して進められているモデル開発の2つのフェーズを明確に区別している。
事前学習では、モデルは次のトークンを予測する方法を学び、言語的な流暢さを獲得するが、それだけで問題解決能力が身に付くわけではない。一方、ポストトレーニングは、コードの記述、複数段階のタスクの計画、検索ツールの使用、問題が発生した際の立て直しなどを学ぶフェーズである。この違いは単なる開発ライフサイクル上の細部に見えるかもしれないが、必要となる計算資源には大きな影響を及ぼす。
ポストトレーニングは、もはや一度限りの仕上げ工程ではない。エージェント型モデルが動作する環境は急速に変化するため、継続的に実行する必要がある。エージェントが使用するツールは週単位で変わる可能性があり、本番環境ではテストセットが想定していなかったエッジケースも表面化する。導入先ごとに固有のコードベース、ポリシー、環境も存在する。NVIDIAのブログによると、新たな問題が見つかるたびに本番環境からポストトレーニングのループへフィードバックされるため、個々の実行規模が大きくならなくても、処理が繰り返され続けることで計算資源の使用量が増大する。
ポストトレーニングの基盤となる仕組みが強化学習（RL）である。暗記できる正解表があるのではなく、報酬シグナルだけが与えられるため、モデルは強化学習の手法を用いて学習する。タスクを与えられると、モデルは試行結果を出力する。これは実際の利用時にも行うフォワードパスと同じ処理である。その試行が評価され、結果を基にモデルの重みが更新される。この更新処理がバックワードパスである。ブログによると、こうした試行を何百万回も繰り返すことで、モデルの能力が向上していく。
各ステップは計算負荷が高く、このループを大規模に実行するには高度なオーケストレーションが必要となる。数千の環境が並行してロールアウトを生成し、報酬が検証され、更新された重みがトレーニングへ戻される一方で、アクセラレータの高い稼働率を維持しなければならない。このオーケストレーション上の課題こそ、NVIDIAのフルスタックアプローチが強みを発揮するよう設計された領域である。
■7つのチップがもたらす統合アーキテクチャ
Vera Rubinプラットフォームは、2026年のCESで当初、6チップシステムとして発表された。しかし、同年3月のGTC 2026で、NVIDIAはエージェント型生成のデコードフェーズ向けに設計された低遅延推論アクセラレータ「NVIDIA Groq 3 LPX」を7番目のチップとして追加し、現在の構成となった。GTCのプレスリリースによると、7チップのスタックは、Vera CPU、Rubin GPU、NVLink 6スイッチ、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 Ethernetスイッチ、Groq 3 LPXで構成される。
Vera Rubinは2026年6月に本格生産に入った。NVIDIAのジェンスン・フアンCEOはソウルで、主要メモリメーカー3社のSamsung Electronics、SK hynix、Micronが、同プラットフォーム向けHBM4の認定を受け、同時に出荷していると説明した。また、2026年6月1日には、CoreWeaveがAIクラウドプロバイダーとして初めて、完全なNVL72ラックを検証した。
性能の核心にあるのがメモリサブシステムである。各Rubin GPUは最大288 GBのHBM4を搭載し、総帯域幅は22 TB/sに達する。これはBlackwellのHBM3e帯域幅である8 TB/sと比較して2.8倍である。NVIDIAの技術ブログによると、この帯域幅の拡大は、ロングコンテキストのTransformerやMoEモデルのAI推論を制約する「メモリの壁」に直接対処するものだ。これらのモデルでは、純粋な計算スループットよりも、メモリアクセスのパターンが生成速度を左右するためである。
ラックレベルでは、単一のVera Rubin NVL72構成に72基のGPU（144ダイ）と36基のCPUが搭載され、合計220兆個のトランジスタ、20.7 TBのHBM4メモリ、1.6 PB/sの累積メモリ帯域幅を備える。NVIDIAの技術ブログによると、BlackwellベースのGB200 NVL72と比較して、メモリ容量は1.5倍、帯域幅は2.8倍となる。
インターコネクトファブリックも同様に重要である。NVLink 6スイッチはGPUあたり双方向3.6 TB/sの帯域幅を提供し、NVL72ラック内の全72基のGPUによるコヒーレントなメモリ共有を可能にする。GTCのプレスリリースによると、ConnectX-9 SuperNICはスケールアウト接続を担い、BlueField-4 DPUはデータ処理とセキュリティ処理のオフロードを管理する。Spectrum-6 Ethernetスイッチはシリコンフォトニクスを採用し、従来世代と比較してエネルギー効率と稼働率を5倍向上させるとNVIDIAは主張している。
Vera CPUも、従来のCPU世代にはなかった構造上の役割を担う。KVキャッシュの管理とプリフィル処理を支えるため、1.2 TB/sの帯域幅を提供する。一方、NVLink 6により、NVL72ラック内の全72基のGPUが、GPUあたり3.6 TB/sでコヒーレントにメモリを共有できる。NVIDIAの技術ブログによると、この緊密なCPUとGPUの結合により、推論ワークロードでGPUを過剰に用意する原因となっていたデータ移動のボトルネックを解消できるという。こうした構造的な非効率性は、BlackwellやHopperプラットフォームの総所有コスト（TCO）を押し上げる要因になっていた。
2026年5月に公開された独立ベンチマークレビューで、Phoronixは、Vera CPUがAIデータセンター用途に関連するLinuxワークロードにおいて、Intel XeonやAMD EPYCと競争可能な性能を示したと評価した。ただし、このレビューはNVIDIAのサンタクララ本社で、ベンダーが選定したワークロードを使用して実施され、消費電力の測定にも制限があった。Phoronixは、これらが量産前の結果であることも指摘している。また、実際の強化学習サンドボックスワークロードでは、NVIDIAのハードウェア上で最先端のオープンモデルを継続的にポストトレーニングしているインフラ企業Prime Intellectが、Vera CPUは代替のx86アーキテクチャと比較して、CPUあたり平均30％高いスループットを示したとしている。ただし、これはNVIDIAが紹介したパートナー企業による評価であり、独立したベンチマークではない。
■Dynamo 1.0：プリフィルとデコードの分離がもたらす効果
ハードウェアの性能向上だけでは、Vera Rubinアーキテクチャが備える効率性を最大限に引き出すことはできない。これを補完するソフトウェア層が「NVIDIA Dynamo 1.0」であり、Spheronの導入ガイドによると、2026年3月のGTCで一般提供が開始された。
大規模言語モデル（LLM）の推論には、計算特性が異なる2つのフェーズがある。プリフィルフェーズでは入力プロンプト全体を処理し、最初の出力トークンを生成する。これは計算能力がボトルネックとなる処理であり、多数のGPUコアに並列化できる。一方、デコードフェーズでは、それに続く出力トークンを1つずつ生成する。こちらはメモリ帯域幅がボトルネックとなり、GPUがメモリからモデルの重みを読み込む速度に制約される。dstackの技術ガイドによると、Dynamo以前は両方のフェーズが同じGPU上で動作していたため、リソースの競合が生じ、各フェーズを個別にスケールできなかった。
Dynamoは、これらのフェーズをそれぞれ専用のワーカープールに分離する。Spheronの導入ガイドによると、NIXL KVキャッシュ転送層が、NVLinkまたはInfiniBandを通じてプリフィルワーカーとデコードワーカーの間でキー・バリューテンソルを転送する。これにより、各プールの規模、設定、スケーリングを個別に最適化できる。ロングコンテキストのエージェント型ワークロードでは、複数ターンにわたるエージェント処理の以前のステップから、関連するKVキャッシュの状態をすでに保持しているデコードワーカーへリクエストを振り分けられるため、重複する計算を直接削減できる。
コンピュータのオペレーティングシステムがハードウェアとアプリケーションを連携させるのと同様に、Dynamo 1.0は「AIファクトリーの分散OS」として機能し、プリフィルとデコードの処理を振り分け、KVキャッシュの配置を管理し、クラスター全体にインテリジェントなスケジューリングを適用するとDigitalAppliedは分析している。NVIDIAのポストトレーニングに関するブログによると、Blackwell GPUでDeepSeek R1を実行した公開ベンチマークでは、Dynamoはプリフィルとデコードを分離しないサービングと比較して、最大7倍の推論性能を示したという。
さらに、トレーニング環境向けのNeMo Gymや分散ポストトレーニング向けのNeMo RLを含むNVIDIAのオープンなNeMoライブラリは、ポストトレーニングを個別に作られた研究コードから、反復利用できるインフラへと変えると同社のブログは説明している。DynamoとNeMoスタックは、ハードウェアの共同設計を補完するソフトウェア側の仕組みとなっている。
■「1ドルあたりのインテリジェンス」という指標
NVIDIAのブログは、トークンあたりコストよりも1段階抽象度の高い指標として「1ドルあたりのインテリジェンス（intelligence per dollar）」を提示している。トークンあたりコストは、100万トークンを提供するために必要な総コストであり、推論ファクトリーの運用効率を示す。一方、1ドルあたりのインテリジェンスは、「提供する価値のあるモデルを構築し、環境が変化する中でもその価値を維持するために、いくらかかるのか」という別の問いに答える指標である。
NVIDIAのブログによると、2つの指標は競合するものではなく、包含関係にある。トークンあたりコストを下げるAIインフラは、強化学習によるポストトレーニングを通じて、モデルに能力を組み込む際のコストも引き下げる。モデルに組み込まれた能力が高まれば、その後に推論ファクトリーが提供する各トークンの価値も高まる。トークンあたりコストが運用効率を測るのに対し、1ドルあたりのインテリジェンスは、モデルの能力に対する投資が成果を上げているかを測るという位置付けである。
NVIDIAは、この指標を「Nemotron 3 Ultra」を用いたケーススタディで説明している。このモデルは、5500億パラメータのオープンウェイトMoEシステムであり、NeMo RLを使用したポストトレーニング手順が完全に公開されている。NVIDIAのHugging Faceモデルカードによると、同モデルはSWE-bench Verifiedで71.9％のスコアを記録した。これは、オープンソースプロジェクトから抽出された実際のソフトウェアバグのおよそ10件中7件について、各プロジェクト独自のテストスイートを通過する修正を生成したことを意味する。より広範なArtificial Analysis Intelligence Indexでは、Nemotron 3 Ultraは48ポイントを獲得し、米国で開発されたオープンウェイトモデルとして最高のスコアを記録している。ただし、Artificial Analysisによると、全体では中国主導のオープンモデルが上位にあり、Kimi K2.6が54ポイントを獲得している。
本番環境への導入は、このアーキテクチャの実際の性能を確認する最も直接的な機会となる。NVIDIAのブログによると、Perplexityの強化学習ポストトレーニングスタックは、数百基のNVIDIA GPUにまたがって非同期に動作している。RDMAベースの重み転送エンジンにより、トレーニング用と推論用の計算ノードの間で、1兆パラメータ規模のモデルを2秒未満で同期するという。1兆パラメータモデルを2秒未満で同期できるという遅延性能は、継続的なポストトレーニングループを経済的に成り立つ頻度で運用できるかどうかを左右する。また、Together AIは、同社のAI Native Cloudプラットフォーム上で、APIとSDKを通じて、教師ありファインチューニング、強化学習、直接選好最適化を含むポストトレーニングサービスを提供している。NVIDIAのブログによると、同社はNVIDIAのプラットフォームを利用してシステムを構築しており、次にVera Rubinを統合する計画だという。
■追随するAMDとGoogleの共同設計戦略
NVIDIAが掲げる共同設計の考え方に対し、競合各社も独自の対応を進めている。この競争環境を理解することは、NVIDIAの効率性に関する主張を評価する上で欠かせない。
2026年のCESで発表され、同年後半の生産を目指すAMDのInstinct MI400シリーズは、独自のラックレベル共同設計戦略を採用している。buildmvpfast.comの競合分析によると、同社のHeliosラックは、AMD MI400 GPU、EPYC Venice CPU、Pensando Vulcano NICを組み合わせた統合システムであり、NVIDIAのNVL72に相当する構成となっている。Zylos Researchの2026年AIチップ分析によると、MI400はGPUあたり432 GBのHBM4を搭載し、帯域幅は19.6 TB/sとなる。Vera Rubinの288 GBよりメモリ容量は大きいが、帯域幅はVera Rubinの22 TB/sを下回る。業界分析では、AMD MI400の量産が2027年第2四半期にずれ込む可能性も示されている。その場合、2026年後半にVera Rubinが得る競争上の猶予は、仕様上の差から想定されるより大きくなる可能性があるとbuildmvpfast.comは指摘している。
GoogleのIronwood TPU v7は、主に推論向けに最適化された同社初のTPUとして、2026年4月にGoogle Cloudで一般提供が開始された。gpuadvisor.comのGPUロードマップによると、JAXを中心とするワークロードに適しており、MoEを含むスパースモデルのスループットを高めるSparseCoresを備える。AmazonのTrainiumやMicrosoftのMaiaも、最先端のAI研究機関における推論およびトレーニング処理でシェアを伸ばしている。Rubin Ultraのパッケージング上の制約を扱ったTechTimesの報道によると、業界分析では、2026年のカスタムASIC出荷数は年率約44％で増加し、汎用市場向けGPUのおよそ3倍の成長率になると予測されている。
共同設計による競争上の「堀」が重要なのは、Vera Rubinの効率向上の一部を競合ハードウェアで再現しようとする場合でも、7チップ全体に相当する統合を実現するか、構造的な効率差を受け入れる必要があることを示唆するためである。NVL72を採用した研究機関は、NVIDIAが示すトークンコスト削減を維持したまま、特定の部品だけを安価な代替品へ交換することはできない。NVIDIAのフルスタックに依存するという運用上の条件に、その効率上の利点が見合うかどうかが、最先端のAI研究機関やハイパースケーラーにとっての検討課題となっている。
■Vera Rubinの導入時期：2026年後半から順次展開、広範な利用は2027年か
GTCのプレスリリースによると、2026年後半にVera Rubinベースのインスタンスを最初に展開するクラウドプロバイダーには、AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureのほか、NVIDIA Cloud PartnerであるCoreWeave、Lambda、Nebius、Nscaleが含まれる。Microsoftは、計画中のFairwater AI superfactory拠点を含む次世代AIデータセンターに、NVIDIA Vera Rubin NVL72ラックスケールシステムを導入する予定である。
ただし、多くの組織がVera Rubinインスタンスを広く利用できるようになるのは、現実的には2027年になるとみられる。TechTimesのクラウド展開に関する報道によると、既存のBlackwellまたはHopperの計算資源を使い、700億パラメータ未満の密モデルを実行しているチームでは、効率の改善幅がNVIDIAの代表的な数値より大幅に小さくなる可能性がある。その場合、Rubinを利用できるまで待つことによる業務上の影響を正当化できないこともある。
Vera Rubin NVL72に関するNVIDIAのブログは、ハードウェアとソフトウェアの共同最適化が、システムレベルの具体的なコスト水準にどう結び付くのかを数値で示した、これまでで最も明確な一次情報である。多くのインフラベンダーが共同設計を概念として論じる中、NVIDIAは帯域幅、GPU数の削減率、ベンチマークスコア、同期遅延などの具体的な数値を公表し、一定程度の外部検証を可能にした。これらの数値が本番規模の独立したテストでも維持されるかどうかによって、NVIDIAが主張するポストトレーニングの経済性が、最終的にどこまで持続するかが決まる。
■注目ポイントQ&A
●ポストトレーニングで、Vera RubinがBlackwellよりもトークンあたりコストを下げられる要因は何ですか？
主な要因は3つです。第一に、HBM4の2.8倍高いメモリ帯域幅（22 TB/s対8 TB/s）により、MoEモデルのエキスパートの重みを読み込む際の待ち時間を短縮します。第二に、NVL72ラック内の全72基のGPUにまたがるNVLink 6のコヒーレントな共有メモリプールにより、KVキャッシュやモデルの重みをGPUごとに重複して保持する必要を減らします。第三に、Vera CPUの1.2 TB/sの帯域幅により、BlackwellでGPUの過剰な用意につながっていたCPUとGPU間のボトルネックを解消します。NVIDIAの技術ブログによると、MoEモデルではトークンごとに異なるエキスパートの重みが有効になるため、特にメモリ帯域幅への要求が大きく、HBM4の帯域幅向上が大きな効果をもたらすとされています。
●NVIDIA Dynamoのプリフィルとデコードの分離は、どのようにコストを削減するのですか？
Dynamoは、計算能力がボトルネックとなるプリフィルフェーズと、メモリ帯域幅がボトルネックとなるデコードフェーズを、それぞれ専用のGPUプールに分離します。これにより、プリフィル側は並列スループット、デコード側は低いメモリアクセス遅延を重視するなど、各プールの規模と設定を個別に最適化できます。分離前は両フェーズが同じGPUの資源を取り合うため、特に長いコンテキストで非効率が生じていました。NIXL KVキャッシュ転送層は、NVLinkまたはInfiniBandを通じて2つのプール間でキー・バリューテンソルを移動します。NVIDIAは、DeepSeek R1を実行するBlackwell GPUで、分離しない構成と比較して最大7倍のスループット向上を報告しています。
●Vera Rubinを採用すると、NVIDIAのハードウェアスタックにロックインされますか？
大きな意味では、ロックインが生じると考えられます。NVIDIAが主張するBlackwell比で10分の1のトークンコストや、MoEトレーニングに必要なGPU数を4分の1にするという効率向上は、Vera CPU、Rubin GPU、NVLink 6、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6スイッチ、Groq 3 LPXの7チップが、統合されたラックスケールシステムとして連携することに依存しています。いずれかの部品を置き換えると、共同設計されたメモリコヒーレンシーや帯域幅の利点が損なわれます。AMDのHeliosラックやGoogleのIronwood TPU v7は、同じアーキテクチャ上の課題に対する競合製品ですが、NVL72を採用した利用者がこれらへ移行するには、インフラ全体を切り替える必要があります。
●Vera Rubinは現在すでに利用できますか？
部分的には利用可能です。CoreWeaveは2026年6月1日に最初の完全なNVL72ラックを検証しました。また、AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureは、7月に始まった2026年後半の期間にVera Rubinインスタンスの展開を開始しています。ただし、この時期のアクセスはクラウド顧客へ段階的かつ優先順位に基づいて提供されており、多くの組織がオンデマンドで広く利用できるようになるのは、現実的には2027年になるとみられます。すでにこれらのクラウドプロバイダーのBlackwellシステム上で大規模なポストトレーニングまたはエージェント型推論を実行している組織は、現在のインスタンス提供状況を各クラウドプロバイダーへ直接確認する必要があります。
元記事: NVIDIA Vera Rubin Cuts Post-Training Token Costs With Seven-Chip Codesign