Giga Computing、OCP SummitでVera Rubin NVL72のフル構成ラックを展示

2026年10月16日 11:59

印刷

記事提供元:Tech Times

(Nvidia.com)

(Nvidia.com)[写真拡大]

GIGABYTE傘下のGiga Computingは、2026年10月12~15日に米サンノゼで開かれたOCP Global Summit 2026で、NVIDIA Vera Rubin NVL72のフル構成ラックを展示した。ブースにはNVIDIA Groq 3 LPXとVera CPUラックの代表的なノード、OCP Open Rack Version 3(ORV3)に準拠したラックも並んだ。

■72基のGPUを結ぶVera Rubin NVL72

Vera Rubin NVL72は、72基のRubin GPUと36基のVera CPUを1ラックに統合する。GPUはそれぞれ288GBのHBM4を搭載し、合計20.7TBのGPUメモリを備える。Giga Computingは、兆パラメータ級モデルや100万トークン規模のコンテキストを扱うための構成として紹介している。

第6世代NVLinkがラック内のGPUを接続する。NVIDIAの製品仕様では、GPUメモリ帯域幅はラック全体で毎秒1400TB、GPU当たり最大毎秒19.2TBだ。NVFP4精度での推論演算性能はラック当たり最大3600ペタFLOPSとしている。いずれも製品仕様上の値であり、実際の処理速度はモデルや運用条件によって変わる。

NVIDIAは、GB200 NVL72との比較で、所定のモデルと入出力条件における100万トークン当たりの推論コストを最大10分の1にできるとしている。Rubin GPU当たりのNVFP4推論演算性能も、仕様値ではGB200世代の5倍だ。コストの比較はNVIDIAの想定条件に基づく。

Vera Rubin NVL72は液冷方式を採り、NVIDIAの仕様には冷却液の入口温度として45℃が示されている。同社によると、新しい液冷バスバーは従来設計の20倍のエネルギーを蓄え、電力を安定させる。CPU、GPU、相互接続を含むラック全体で、処理中のデータを保護するコンフィデンシャルコンピューティングにも対応する。

NVIDIA GTC 2026で披露された同システムについて、Giga Computingは量産が始まり、大規模クラウド事業者やAI研究機関などのデータセンターへの導入が進んでいると説明する。今回の展示では、そのフル構成ラックをブース番号A39で公開した。

■Groq 3 LPXとVera CPUラックの役割

大規模言語モデルの推論では、入力を処理するプリフィルと、出力を順次生成するデコードで計算の性質が異なる。NVIDIAが示す構成では、Rubin GPUがプリフィルとデコード時のアテンション計算を担当し、Groq 3 LPXがデコード時のフィードフォワード層やMixture of Experts(MoE)の処理を加速する。GPUとLPUで処理を分担し、応答に関わる遅延を抑える設計だ。

NVIDIAの公表値によると、Groq 3 LPXのフルラックは256基のLPUを搭載し、128GBのオンチップSRAM、毎秒40PBのオンチップメモリ帯域幅、FP8精度で315ペタFLOPSの演算性能を備える。同社は、Vera Rubin NVL72と組み合わせると、所定の兆パラメータ級モデルでGB200 NVL72比の電力当たりスループットが最大35倍になると試算している。Giga Computingが会場で展示したのは、Groq 3 LPXラックを構成するノードだ。

もう一つの展示ノードは、Arm互換のVera CPUを使うCPUラック向けのものだ。NVIDIAの製品構成では、フルラックに256基のVera CPUを収め、エージェントの処理や強化学習などに使うサンドボックス環境を2万2500超、同時に扱えるとしている。ラックはNVIDIA MGXアーキテクチャを基盤とし、Spectrum-X Ethernetを組み合わせる。

Vera CPUラックは、多数の実行環境の起動や管理を担う構成として位置付けられる。Giga Computingは、GPUによる学習・推論、LPXによる低遅延のトークン生成、CPUによるエージェント処理を組み合わせたAIインフラを提示した。

■ORV3ラックと冷却設備も展示

会場では、OCPのOpen Rack Version 3に準拠したラックも展示した。Giga Computingによると、製品群はAMD EPYCとIntel XeonのCPU構成に対応し、計算ノード、高速フラッシュストレージ、管理用ハードウェアを含む。展示した製品群のOCPサーバーには直接液冷を採用している。

GPU向けには、8基のGPUを載せるベースボードに対応したGIGABYTE TO46シリーズも紹介した。構成にはNVIDIA HGX B300を採用したものが含まれる。同社は、初期のORV1向け製品からORV3対応の製品群へとラインアップを広げている。

冷却設備では、TaiSol Electronics製の「800V CDU」を展示した。CDUは液冷システムで冷却液を供給・循環させる装置を指す。Giga Computingは、高密度化する次世代のラックスケール設備を支える製品として紹介している。

■ラック単位の検証拠点も整備

Giga Computingは2026年9月22日、台湾・新北市にAI計算センター「GAIFA」を設けると発表した。初期構成は計算、ストレージ、ネットワーク用の6ラックで、電力容量は700kWを計画する。直接液冷を採用し、顧客とともにラック単位で計算性能や電力、冷却の構成を検証する拠点として位置付けている。

同社は同年7月、企業向けAI設備などの導入を支援するGIGAPODの製品群も拡充した。6月には韓国の半導体企業Rebellionsと、AIサーバーやラックスケールの製品を共同開発するための覚書を締結した。両社は、地域で管理するAIインフラを協業の重点分野に挙げている。

今回のOCP Global SummitでGiga Computingが紹介した製品群は、演算装置だけでなく、CPU、ストレージ、管理機器、冷却設備まで及ぶ。同社はサーバーの供給に加え、ラック単位の構成と導入前の検証にも事業領域を広げている。

元記事: Giga Computing Brings Vera Rubin NVL72 to OCP Summit: One Rack, Trillion-Parameter AI

※この記事はTech Timesから提供を受けた記事を日本向けに翻訳・編集したものです。

関連キーワード