GPU数から「電力効率」の時代へ：NVIDIAが主張するAIファクトリーの新たな収益方程式

AIインフラの拡張が世界的な電力不足という物理的制約に直面するなか、データセンターの競争力は「GPUの搭載数」ではなく「1ワットの電力からどれだけのAI出力を生み出せるか」という効率性に移行しつつある。NVIDIAは2026年7月14日、最新のGB300 NVL72システムが前世代のHopperと比較して最大25倍の電力効率（W当たりトークン数）を達成したとする技術的見解を公表した。この指標は、送電網の容量制限に縛られたAIファクトリーの収益性を直接決定づける要因として注目されている。

■電力こそが2026年AIインフラにおける最大の制約

ハイパースケーラーによる2026年のAIインフラ投資額は6500億ドル（約105兆3000億円、1ドル＝162円換算）を超えると予測されているが、もはや資金力だけでは解決できない物理的なボトルネックが顕在化している。変圧器の納期はかつての24〜30カ月から最大5年へと長期化し、開閉装置は2028年分まで完売状態だ。米国や欧州の多くの地域では、新規データセンターの送電網接続待ちに5〜7年を要する事態となっている。業界分析によると、2026年に計画されていたデータセンター容量の30%から50%が、これらの物理的制約により2028年以降にずれ込む見通しだ。

この結果、数年前に電力確保の合意を取り付けていた事業者が、資金力だけでは容易に覆せない構造的優位性を手にしている。現在彼らに残された唯一の成長手段は、すでに確保しているメガワット（MW）単位の電力から、より多くのAI処理能力（インテリジェンス）を絞り出すことだ。NVIDIAが公表した技術文書は、これこそが現在のAIインフラにおける最大の競争力の源泉であり、ハードウェア世代間の効率性の差はデータセンターの立地選定基準に匹敵するほど重要であると主張している。

一般的なAIファクトリーでは、送電網から引き込まれた電力のうち、実際のAI計算に変換されるのは約60%にすぎない。残りの40%は、トークンが生成される前に、冷却システム、配電損失、ラックレベルの非効率性によって熱として失われている。NVIDIAが2026年5月の「GTC Taipei」で発表したソフトウェアプラットフォーム「DSX MaxLPS」は、この失われている40%の電力を回収して計算能力に還元することを目指したものだ。

■72基のGPUドメインがMoEモデルの効率性を変える理由

NVIDIAの最新システム「GB300 NVL72」が達成した1ワット当たりの性能向上は、個々のGPUが強力になったことだけが理由ではない。現在主流となっているAIモデルに最適化されたアーキテクチャを採用した結果である。

現在稼働している最先端AIモデル（DeepSeek V4 Pro、Kimi K2.6、GLM5.1、Qwen3 235Bなど）のほぼすべてが、混合専門家（MoE：Mixture-of-Experts）アーキテクチャを採用している。疎な（Sparse）MoEモデルでは、入力されたトークンごとにモデル全体のネットワークを活性化させるのではなく、特定の「専門家（エキスパート）」サブネットワークのみにルーティングする。これにより、例えば6710億パラメータを持つDeepSeek R1であっても、1回のフォワードパスで活性化するのは約370億パラメータに抑えられ、計算効率は劇的に向上する。しかし、課題は通信オーバーヘッドだ。エキスパートのサブネットワークが、低速なInfiniBandやPCIeでしか通信できない複数のGPUに分散している場合、MoEの効率性を支えるルーティング処理が膨大な全対全（all-to-all）ネットワークトラフィックを生み出し、効率性のメリットを相殺してしまう。

GB300 NVL72が備える「72基のGPUによるNVLinkドメイン」は、NVLink Switchファブリックを介して毎秒130テラバイト（TB/s）で相互接続されており、このボトルネックを解消する。最先端MoEモデルのすべてのエキスパートが、ノード境界を越えることなく、同一の超帯域ファブリック内でアクセス可能になる。前世代のHopperにおける「8基のGPUによるNVLinkドメイン」は、稼働中のすべてのエキスパートの重みを同時に保持するには小さすぎたため、設計上想定されていないノード間通信を強いられていた。単一のNVLinkファブリック配下を8基から72基のGPUへと拡張したことは、単なる規模のアップグレードではなく、MoE推論を真に効率化するための構造的な前提条件をクリアしたことを意味する。

独立系ベンチマークプラットフォーム「SemiAnalysis InferenceX」のデータによると、主要なオープンソースMoEモデルにおいて、GB300 NVL72はHopper世代と比較して、DeepSeek V4 Proで最大25倍、GLM5.1で最大20倍、Kimi K2.6で最大10倍のW当たりトークン数を達成した。ただし、NVIDIAはこれらを単一の数値ではなくパレート曲線（最適化のトレードオフを示す曲線）として提示している。この倍率は、サーバーの構成、量子化フォーマット、レイテンシとスループットのどちらを優先するかによって大きく変動するためだ。25倍という数値は特定の動作条件下における上限値であり、実際の導入環境ではサービスレベル目標（SLO）に応じて曲線上のいずれかの位置に落ち着くことになる。

また、この向上はソフトウェアにも強く依存している。同じGB300ハードウェア上で、ソフトウェアの改良のみによって、わずか1カ月の間にDeepSeek V4のW当たりトークン数が5倍に向上した事例もある。ハードウェアを変更することなくこれほどの向上が得られることは、導入済みのシステムにまだ多くの改善余地が残されていることを示すと同時に、現時点のベンチマーク結果が半年後のパフォーマンスを正確に反映しているとは限らないことを意味している。

■SemiAnalysis InferenceX：ベンチマークが示す事実と限界

NVIDIAが提示した性能数値は、ハードウェア構成全体の測定結果をほぼリアルタイムで公開している独立系ベンチマークプラットフォーム「SemiAnalysis InferenceX」によるものだ。SemiAnalysisはNVIDIAの傘下企業ではなく、競合であるAMDも自社の開発者ブログで同じデータセットを引用している。AMDは、マルチトークン予測を有効にしない高並列FP8構成において、自社の「MI355X」がGB300 NVL72よりもトークン当たりのコストを低く抑えられることを示すためにこのデータを利用している。2026年3月時点の同データセットにおいて、NVFP4の量子化メリットを適用しない状態かつユーザーあたり毎秒60トークン以上のインタラクティブな動作環境では、MI355Xが100万トークン当たりのコストでより低い数値を記録していた。

したがって、ベンチマークの比較は調達の意思決定に直結する構成の違いに非常に敏感である。NVIDIA独自の4ビット浮動小数点規格である「NVFP4」量子化フォーマットは、モデルの重みをBF16の4分の1、FP8の2分の1のメモリフットプリントに削減し、同じメモリ帯域幅からより大きなバッチサイズと高いスループットを引き出す。一方、AMDが対抗するFP8フォーマット（パラメータあたり1バイト、NVFP4は半バイト）は、高並列時のスループットにおいて競争力を持つが、モデルサイズが拡大しバッチサイズが最適化されるにつれて、メモリ効率の差からNVFP4構成が優位に立つ。結論として、GB300 NVL72の効率性の優位性は、NVFP4を必要とする量子化フォーマットを用いた大規模なMoEモデルにおいて、かつ大バッチのスループットを重視するレイテンシ目標を設定した場合に最も顕著になる。これはまさに、商用の最先端モデルの推論が実行される動作条件そのものだ。逆に、マルチトークン予測を行わない高並列な小規模モデルではその差は縮まり、MI355Xのメモリ容量の優位性とソフトウェアの成熟度によって、AMDがNVIDIAと同等以上の成績を収めることもある。

NVIDIAは、推論最適化ソフトウェア「NVIDIA Dynamo」と「TensorRT-LLM」を使用し、ユーザーあたり毎秒116トークンのインタラクティブ動作において、100万トークン当たり0.123ドル（約20円）という低コストでAI推論を提供できると主張している。これは2026年4月時点のSemiAnalysis InferenceXリーダーボードにおいて、最も低いトークン当たりコストとして位置づけられている。ただし、このベンチマークは特定の動作条件を反映したものであり、双方のソフトウェアスタックの改良に伴って今後も変動する。また、AMDは2026年後半に「Helios」ラックスケールプラットフォームに統合された「MI450」GPUの投入を予定しており、オープンな相互接続規格「UALink」をベースにした対抗アーキテクチャで、この効率性競争に挑む構えだ。

■継続的なインフラ投資としてのソフトウェア

NVIDIAは、このサイクルにおけるハードウェアの購入決定は、ソフトウェアの最適化ロードマップと切り離せないと強調している。NVIDIA Dynamo、TensorRT-LLM、そしてSGLangやvLLMなどのオープンソースフレームワークを組み合わせた推論ソフトウェアスタックは、NVFP4量子化、分散型サービング（Disaggregated Serving）、大規模エキスパート並列、KV（Key-Value）対応ルーティング、KVキャッシュオフロードなど、複数の技術をレイヤー化して相乗効果を生み出している。

効率性の向上を理解する上で、特に重要なのが「分散型サービング」だ。標準的な推論パイプラインは、入力プロンプト全体を並列処理する「プリフィル（Prefill）フェーズ」（計算バウンドであり、高いFP4スループットが有利）と、トークンを1つずつ自己回帰的に生成する「デコード（Decode）フェーズ」（メモリ帯域幅バウンドであり、高速なメモリアクセスが有利）の2つを処理する。NVIDIA Dynamoは、これらのフェーズを分離してそれぞれに最適なハードウェアにルーティングすることで、GB300 NVL72のGPUリソースをプリフィルに集中させ、デコードフェーズをより特化したハードウェアで実行できるようにする。これが、次世代の「Vera Rubin」構成における「Groq 3 LPX」との組み合わせを支えるアーキテクチャ上の論理だ。

NVIDIAが公表している顧客リストは、これらの効率性に関する主張を裏付けている。AnthropicやOpenAIは、Blackwell NVL72システムを商用の推論ワークロードに採用している。CoreWeaveは、GB300 NVL72上にNVFP4量子化と「EAGLE3」投機的デコードを組み合わせてKimi K2.6をデプロイし、同等品質を維持しながらレイテンシを2〜4倍削減した。Perplexityは、AIエージェントプラットフォームでQwen3 235BおよびQwen3.5-397B-A17BをGB200 NVL72で実行し、毎日数百万件のクエリを処理している。Fireworks AIは、CursorやFactory AIなどの顧客向けにBlackwellプラットフォーム上でGLM 5.2を展開している。これらは合成ベンチマークではなく、実際に収益を生み出している持続的な本番ワークロードであり、プラットフォームの実用性を示す強力なシグナルとなっている。

■DSX MaxLPS：GPUに届かず失われていた電力の40%を回収する

2026年5月の「GTC Taipei」で発表されたNVIDIAの電力効率化ソフトウェアレイヤー「DSX MaxLPS」は、半導体側ではなく、データセンター設備側から40%の電力損失問題にアプローチする。

このプラットフォームは、45℃の温水液冷技術と、GPUおよびラック間でのリアルタイムな電力制御（パワーステアリング）を組み合わせている。従来のデータセンターの液冷は冷水を使用するため、エネルギー消費の大きいチラー（冷凍機）を必要とする。これに対し、45℃の温水液冷では、多くの気候において冷却水を外気温水に直接放熱できるため、チラーを完全に排除するか、その負荷を大幅に削減できる。こうして削減された冷却用電力は、DSX MaxLPSのパワーステアリングアルゴリズムを介して計算処理へと再配分される。アルゴリズムはGPUの使用率と熱的余裕を常に監視し、電力を即座に活用できるノードへと許容電力を動的にシフトする。

この仕組みにより、オペレーターはGPUの電力対性能曲線において最もエネルギー効率の高いポイントで稼働させることができ、ワークロードのパフォーマンスへの影響を最小限に抑えながら、同じ電力枠内で最大40%多くのGPUを稼働させることができるとされている。すでにCoreWeave、Lambda、NebiusなどのクラウドパートナーがDSXコンポーネントを導入しており、Dell Technologies、HPE、Lenovo、SupermicroなどがDSX対応システムを構築中だ。100MWの送電網接続に制限されたデータセンターが、これまで無駄になっていた電力の40%を回収できれば、新規に送電網を契約することなく、実質的に40MW分の計算容量を追加したのと同等の効果を得られる。送電網の接続待ちに5〜7年を要する市場において、これは極めて強力な競争優位性となる。

■次世代プラットフォーム「Vera Rubin」がもたらすもの

NVIDIAのロードマップは、すでに生産段階に入り、2026年後半に主要クラウドプロバイダーから提供開始予定の次世代プラットフォーム「Vera Rubin」へと続いている。NVIDIAは2025年12月、高速なトークン生成技術を持つAI推論スタートアップのGroq社と非独占的ライセンス契約を結び、同社の創業メンバーを引き抜いた。この提携から生まれたのが、2026年3月に発表された「Groq 3 LPU」である。

「Groq 3 LPX」ラックは、GPUとは根本的に異なるメモリ構造を持つ256基の言語処理ユニット（LPU）を統合している。GPUのHBM3eメモリが毎秒約8テラバイトの帯域幅であるのに対し、Groq 3 LPUはオンチップSRAMを採用し、1チップあたり毎秒150テラバイトという約19倍の帯域幅を実現している。これはメモリ帯域幅がボトルネックとなる自己回帰デコードフェーズにおいて圧倒的な優位性を持つ。Vera Rubin NVL72ラックが計算負荷の高いプリフィルフェーズを処理し、Groq 3 LPXがデコードフェーズを処理する「分散型サービング」構成により、推論の各ステージが最も適したハードウェアにルーティングされる。

NVIDIAの予測によれば、Vera Rubin NVL72とGroq 3 LPXの組み合わせは、現行のBlackwell世代と比較して、1メガワット当たりの推論スループットを最大35倍に高め、超長文コンテキストを扱う1兆パラメータ規模のワークロードにおいて約10倍の収益機会をもたらすとされている。ただし、これらの数値は生産立ち上げ段階にあるシステムを対象としたNVIDIAの自己申告による予測値であり、現時点で第三者による本番規模でのベンチマーク検証は行われていない。購入を検討する企業は、これらを確定した性能値ではなく、方向性を示す目標値として捉えるべきである。

■データセンターの立地選定における経済学の変容

この効率性を巡る議論は、単なるハードウェアの調達にとどまらず、AIデータセンターの建設計画そのものに直接的な影響を及ぼしている。

次世代のAIキャンパスは、1サイトあたり100MWから750MW規模で計画されている。この規模になると、データセンターは地域の生活インフラと送電網の容量を直接奪い合うことになり、その承認プロセスは巨大な工業団地の建設に匹敵する。DSX MaxLPSによる40%のソフトウェア駆動型効率向上は、100MWのサイトにおいて、新たな送電網接続を申請することなく、実質的に数十メガワット分の容量を上乗せできることを意味する。

どのプラットフォームを標準採用すべきか評価しているハイパースケーラーにとって、この効率性の差がもたらす累積的な影響は無視できない。GB300 NVL72とDSX MaxLPSを組み合わせたサイトと、同じ電力枠で前世代のHopperを稼働させるサイトとでは、生み出される収益に決定的な差が生じる。NVIDIAのロードマップが今後もこの規模の世代間向上を提供し続けるのであれば、現在下されるインフラの意思決定が、今回のハードウェアサイクルだけでなく、送電網の制約によって容易に拡張できない将来のデータセンター容量の競争力をも決定づけることになるだろう。

■注目ポイントQ&A

●「W（ワット）当たりトークン数」とは何ですか？なぜGPUの搭載数よりも重要なのですか？

W当たりトークン数とは、消費された電力単位あたりに、システムがどれだけ実用的なAI出力（ユーザーが対価を支払うテキストトークン）を生成できたかを示す指標です。電力供給が制限され、送電網の拡張に何年もかかる現状において、1メガワットの電力から生成できるトークン数は、データセンターの収益力を直接左右します。電力が限られている以上、GPUの数自体は重要ではなく、それらがどれだけ効率的にトークンに変換されるかが重要になります。

●なぜMoEモデルの効率向上には「72基のGPUによるNVLinkドメイン」が必要なのですか？

MoE（混合専門家）モデルは、入力トークンを分散された特定の「エキスパート」GPUにルーティングするため、GPU間で頻繁な全対全（all-to-all）通信が発生します。これらが低速なネットワークで接続された異なるノードをまたぐ場合、通信遅延がMoEの効率性を損ないます。NVIDIAの72基のGPUによるNVLinkドメインは、すべてのエキスパートを同一の超高速ファブリック内に収めることでノード間通信を排除し、MoE推論のボトルネックを根本から解決します。

●25倍の効率向上のうち、ハードウェアとソフトウェアの貢献割合はどのようになっていますか？

25倍という数値は、HopperからGB300 NVL72へのハードウェアとソフトウェア双方の進化を組み合わせた結果です。ソフトウェアの貢献度は非常に大きく、NVIDIAは同一のGB300ハードウェア上で、ソフトウェアの改良のみによって1カ月の間にDeepSeek V4のW当たりトークン数が5倍に向上したと報告しています。これは、システム導入後も継続的なソフトウェアアップデートによって性能が向上し続けることを示しています。

●AMDの「MI355X」は、現在のNVIDIA GB300 NVL72に対して競争力がありますか？

特定の動作条件においては競争力があります。SemiAnalysis InferenceXのデータによると、マルチトークン予測を使用しない高並列なFP8構成において、ユーザーあたり毎秒60トークンを超えるような環境では、MI355XがGB300 NVL72よりも低いトークン当たりコストを記録しています。大規模なMoEモデルやNVFP4量子化を必要とする環境ではNVIDIAが優位ですが、FP8を用いた高並列な小規模モデルの処理などでは、AMDが同等以上の経済性を示す場合があります。

元記事: Tokens per Watt Determines AI Factory Revenue as Power Constraints Tighten