ScaleFlux、NVIDIA CMX向けAI最適化SSD基盤を発表 KVキャッシュによるSSD摩耗に対応
2026年8月2日 17:22
大規模言語モデルの長文コンテキスト処理では、KVキャッシュの退避先としてNVMe SSDの重要性が増している一方、従来のエンタープライズSSDでは耐久性が課題になりやすい。ScaleFluxは7月30日、この用途を狙ったSSDプラットフォームを発表した。NVIDIAのCMXアーキテクチャのドライブ層を想定し、200超のFDP書き込みストリームやテレメトリー機能で書き込み増幅の抑制を図るが、効果の一部はまだ独立検証を待つ段階だ。
■AI推論でSSDに新たな負荷がかかっている
大規模言語モデルが100万トークンの会話を処理する場合、再計算を避けるために生成するキー・バリューキャッシュ（KVキャッシュ）は、700億パラメーター規模のモデルで単一ユーザーあたり320GBを超えることがある。これはNVIDIA H100 GPUの高帯域幅メモリー（HBM）総容量の4倍に相当し、その退避先としてNVMe SSDが使われる場面が増えている。
ただし、一般的なエンタープライズSSDは、AI推論がKVキャッシュの退避によって生み出す書き込み特性を前提に設計されていない。7月30日、カリフォルニア州ミルピタスに拠点を置くストレージ企業ScaleFluxは、このギャップを埋めることを狙ったAI最適化SSDプラットフォームを発表した。
このプラットフォームはNVIDIAのCMX（Context Memory Storage）アーキテクチャの下位ストレージ層を対象とし、Context-Insightと呼ぶワークロード・テレメトリー機能、ドライブ当たり200超のFlexible Data Placement（FDP）書き込みストリームへの対応、5年間の運用寿命で実効7 DWPDから10 DWPD超の耐久性をうたう。DWPDは、1日当たりにドライブ全容量を書き換えられる回数を示す指標である。
ScaleFluxのCEOであるHao Zhong氏は、8月5日に開催予定のFuture of Memory and Storage（FMS）2026基調講演で、NVIDIAのストレージ技術担当バイスプレジデントJason Hardy氏と共同登壇する予定だ。この組み合わせは、AIの計算基盤とストレージ基盤が単一のエンジニアリング領域として収れんしていることを反映している。
■KVキャッシュがSSDを摩耗させやすい理由
一般的なエンタープライズSSDがKVキャッシュのワークロードに苦戦しやすい背景には、NANDフラッシュの物理的制約がある。NANDフラッシュのセルは、劣化するまでに書き込める回数に限りがあり、しかもその場で上書きできない。わずか数KBの新しいデータを書き込む場合でも、通常4〜32MBの消去ブロック単位で既存データを消去する必要がある。
SSDファームウェアはこれをガーベジコレクションで処理する。古い消去ブロックに残る有効データを読み出して新しいブロックに書き直し、その後で古いブロックを消去する。このとき、ホストからの論理書き込み量に対して、実際のNANDへの物理書き込み量がどれだけ増えるかを示す指標が書き込み増幅率（WAF）である。WAFが3なら、ホストが1バイト送るごとにドライブは物理的に3バイトを書き込むことになり、セルの耐久性を論理書き込み量の3倍の速さで消費する。
KVキャッシュのオフロードは、このWAFにとって特に厳しい環境を作る。一般的なデータベースやクラウドネイティブアプリケーションでは、書き込み、更新、削除のパターンが比較的予測しやすく、SSDのガーベジコレクションでもある程度効率的に扱える。これに対しKVキャッシュのブロックは、推論中に高頻度で書き込まれた後、いつまで使われない状態が続くか分からず、ユーザーが会話に戻ると再び使われ、セッション終了時や共有プレフィックスの有効期限が切れた際には非同期で無効化される。
しかも、データごとの有効寿命の差が大きい。あるテナントのアクティブなセッションで生成されたKVブロックは数時間ホットな状態を保つ一方、別のテナントのブロックは数秒で無効になることもある。こうした異なる寿命のデータが同じNAND消去ブロックに混在すると、ガーベジコレクションのたびに有効データを別のブロックへ移す必要が生じる。その結果、不要な物理書き込みが増え、セルの摩耗が進み、実効WAFも上昇する。
従来の対策はオーバープロビジョニング、つまり実際に必要な有効データ量よりも大幅に多い物理SSD容量を配備することだった。これにより書き込みトラフィックをより広いNAND領域に分散し、単位時間当たりに各セルが受ける書き込み回数を減らす。ScaleFluxはこの余剰コストを「耐久性税」と呼んでいる。保存すべきデータのためではなく、書き込みトラフィックを吸収するためだけに運用者が支払うコストという意味だ。
■200超のFDPストリームでフラッシュ層からWAFを下げる
ScaleFluxが書き込み増幅の低減手段として前面に出すのが、Flexible Data Placement（FDP）の積極的な実装だ。FDPはNVMeの標準機能で、ホストソフトウェアが書き込みコマンドにストリーム識別子を付け、どのデータを同じグループとして扱うべきかをSSDコントローラーに伝えられる。
考え方は単純だ。同じストリームIDを持つブロックがほぼ同じタイミングで無効化される可能性が高いとSSDが判断できれば、それらを同じNAND消去ブロックに格納できる。そのブロックをガーベジコレクションする際には大半のデータがすでに無効化されているため、移動が必要な有効データは少なくなる。結果としてガーベジコレクションのオーバーヘッドとWAFが下がり、各NANDセルに対する不要な書き込みも減る。
課題は粒度だ。一般的なエンタープライズSSDが備えるFDPのリクレームユニット・ハンドル数は通常2〜8程度で、シーケンシャル書き込みとランダム書き込みを分けるには足りても、KVキャッシュをセッション別、テナント別、共有プレフィックス別、ライフサイクル別に同時に分離するには足りない。ストリーム数が少ないままでは、ホットなKVデータとコールドなKVデータが同じ消去ブロックに入り、ガーベジコレクションによる書き込み増幅の問題が残る。
ScaleFluxのプラットフォームは、ドライブ当たり200超のFDP書き込みストリームをサポートする。この数であれば、推論ソフトウェアは個別テナントのセッション、共有プレフィックス識別子、休止中のKVブロック、アクティブなKVブロックなどに異なるストリームIDを同時に割り当てられる。これにより、無効化されるタイミングが似たデータをフラッシュ層でまとめやすくなる。
同社による予備的な制御環境での試験では、ライフサイクルを考慮したFDP配置により、ベースライン構成と比べてWAFが2分の1未満になったとしている。ただし実際の結果は、ワークロードの特性、ライフサイクル分類の精度、ソフトウェア統合の深さに左右される。
また、StorageReviewがKVキャッシュ・オフロードのワークロードを実環境で分析したところ、持続的な推論シナリオでピーク時の書き込みトラフィックは4.1GB/秒、読み出しトラフィックは1.1GB/秒に達した。同社は、このストレージ層では帯域幅ではなくフラッシュ耐久性が主要な制約になると結論付けている。
■AI向けSSDではIOPSよりDWPDが重要になる
ScaleFluxが掲げる、5年間で実効7 DWPDから10 DWPD超という耐久性目標は、この発表で最も技術的に重要な仕様だ。DWPDは、所定の運用期間にわたって定格寿命を満たしながら、ドライブ全容量相当の書き込みを1日に何回実行できるかを示す指標である。
たとえば100TBのドライブが1 DWPDなら、早期摩耗を起こさずに1日100TBのホスト書き込みを受けられる。3 DWPDなら300TB/日、10 DWPDなら1,000TB/日となる。
これが経済性に直結する理由は、WAFが高く耐久性が低いと、運用者がSSD層を実際に保存するデータ量ではなく、書き込み量に合わせて設計せざるを得なくなるためだ。ある推論クラスタのKVキャッシュ書き込みによって、1 DWPDのドライブが5年ではなく2年で摩耗するなら、耐久性目標を満たすには必要容量の2.5倍の物理容量を配備しなければならない。そこに投じる追加コストが、耐久性税の実体となる。
ScaleFluxは、実効7 DWPDから10 DWPD超の耐久性と、200超のFDPストリームによるWAF低減を組み合わせることで、この余剰を圧縮する設計だとしている。導入した容量のより多くを実際のKVキャッシュ保存に使い、単に書き込みを吸収するためだけの容量を減らす狙いである。もっとも、その効果の大きさは実環境でのWAFに依存する。ScaleFluxは、前述した制御環境での試験を除き、独立検証された数値を公表していない。
参考情報として、SanDiskの経営陣は、NVIDIAのKVキャッシュ・アーキテクチャだけでも2027年に追加で75〜100エクサバイトのNAND需要を生み、2028年にはさらに倍増する可能性があると見積もっている。この需要は、既存のエンタープライズSSD市場に上乗せされるものだ。需要が実際に顕在化すれば、運用者によるドライブ選定の経済性は、従来世代のSSD調達で重視されてきたIOPSやシーケンシャルスループットよりも、DWPDやFDPストリーム数に大きく左右されることになる。
■ScaleFluxの位置付けはCMXのドライブ層
NVIDIAのCMXプラットフォームは、2026年1月のCESで披露され、同年3月のGTC 2026でBlueField-4 STXアーキテクチャとともに拡張された。NVIDIAはCMXを、ノードローカルSSDと汎用共有ネットワークストレージの間に置く、ポッド単位で共有するコンテキストメモリー層「G3.5」と位置付ける。
BlueField-4データ処理ユニット（DPU）はNVMe SSDを管理し、KVキャッシュ向けのデータ完全性処理や暗号化をオフロードする。また、NVIDIAのDynamo推論フレームワークとDOCA Memosのキー・バリューAPIを通じてデータ移動を制御する。これにより、推論ワークロードはI/O経路にホストCPUを介さず、CMX層との間でKVキャッシュの読み書きを実行できる。
NVIDIAはこのCMXアーキテクチャについて、従来のストレージ方式に比べ、長文コンテキストのワークロードで1秒当たりのトークン処理性能を最大5倍、電力効率を5倍に高められると主張している。BlueField-4 STX参照アーキテクチャを採用する初期導入企業には、CoreWeave、Crusoe、Lambda、Mistral AI、Oracle Cloud Infrastructureが含まれる。ストレージシステム各社によるCMXプラットフォームは、2026年後半に出荷が始まる見込みだ。
CMXエコシステムの初期ストレージシステムパートナーとしては、Dell、HPE、IBM、Pure Storage、VAST Data、WEKA、DDN、Supermicro、AIC、Cloudian、Hitachi Vantara、Nutanixが挙げられている。これらの企業は、ドライブの上位にある筐体やシステム層を担う。これに対してScaleFluxは、それらのシステム内部で使われるNVMeドライブ層に照準を合わせている。CMX用の筐体を作るのではなく、その筐体が大規模運用で経済性を保つために必要な、ドライブレベルの制御機能と耐久性を提供する立場だ。
■Context-Insightでテレメトリーを運用判断につなぐ
ScaleFluxプラットフォームの3つ目の柱がContext-Insightである。これは、生の耐久性能と、その性能を実際のWAF低減につなげるソフトウェア側の判断との間を結び付けるための仕組みだ。
SSD単独モードでは、推論ソフトウェアのKVキャッシュ運用方針が、実際にどのようなストレージ挙動を生んでいるかをドライブ側から詳細に観測できる。具体的には、レイテンシー分布、キュー深度、スループット、リクエストサイズ分布、データの経過時間、書き込みから最初の読み出しまでの時間、読み出し再利用パターン、NAND書き込み量、ガーベジコレクションによるデータ移動量、WAFなどである。これらの観測にはホスト側の推論スタックの変更を必要とせず、ドライブの視点だけで把握できるとしている。
ソフトウェア連携が可能な場合、Context-Insightはこうした低レベルのテレメトリーを、推論フレームワーク側の上位メタデータと関連付けられる。たとえばセッションID、テナントの所有情報、共有プレフィックス識別子、KVブロックのライフサイクル状態、キーとブロックの対応関係などだ。
その結果、どのセッション、プレフィックス、テナントが耐久性を最も多く消費しているかを、所有者との対応関係を含めて可視化できる。この情報を使えば、インフラ運用チームは単に容量を多めに配備するのではなく、FDPストリームの割り当てやキャッシュの削除ポリシーを調整し、WAFを下げる方向に最適化できる。
ScaleFluxはさらに、GPUのHBM、ホストDRAM、SSDから成るメモリー階層全体でのKVキャッシュ移動をモデル化する、トレース駆動型シミュレーターも開発している。このシミュレーターは再実行可能なSSDトレースを生成し、配置、削除、ライフサイクル別グルーピングの各方針を本番環境へ導入する前に比較評価できるようにする。
■現時点で独立検証が必要なポイント
このプラットフォームに関する主張は具体的で、技術的にも妥当性のある説明に基づいている。ただし、独立した評価が得られるまでは、いくつかの疑問が残る。
第1に、制御環境でWAFが2分の1未満になったという主張は、同社が特定の構成で測定した数値である。本番環境で生じる複雑かつ制御されていないライフサイクルを持つ推論ワークロードでも、どこまで同じ低減効果が維持されるかは、まだ独立には確認されていない。StorageReviewによるKVキャッシュ向けSSDの実証分析は、耐久性が主要な制約になることを裏付けたが、ScaleFluxのFDP実装自体を独立検証したものではない。
第2に、実効7 DWPDから10 DWPD超という値は、ワークロードと構成に依存すると明示されている。同社は、特定のドライブ構成について、標準化された試験ワークロードに基づく単一の耐久性評価値を公表していない。インフラ運用チームが汎用エンタープライズSSDと同じ条件で費用を比較するには、その情報が必要になる。
第3に、200超のFDPストリームが競合ドライブよりも意味のある優位性を持つかどうかは、現在CMX向けとされる各SSDが実際に何本のストリームをサポートしているかを把握して初めて比較できる。NVIDIAのCMX文書では、Solidigm D7-PS1010やMicron 9400 Proなどを互換ドライブの例として挙げているが、それらのFDPストリーム数とScaleFluxの200超という仕様を比較できる情報は独立には公表されていない。
ScaleFluxは、8月4日に米カリフォルニア州サンタクララで開幕予定のFMS 2026で、Context-Insightによるワークロード分析、KVメタデータとの相関、FDP書き込みストリーム管理、書き込み増幅低減のライブデモを披露する計画だ。サンタクララはサンフランシスコの南約37マイル（約60km）に位置する。
同社は同イベントに先立ち、PCIe Gen 6 SSDコントローラーとCXLメモリーコントローラーも発表しており、AIインフラのメモリー階層全体にわたって事業を拡大しようとする姿勢を示している。AI最適化SSDプラットフォームの価格と一般提供時期は明らかにされていない。
■注目ポイントQ&A
●KVキャッシュのオフロードは、なぜSSDの耐久性問題を招くのですか
KVキャッシュのオフロードは、大規模言語モデルが推論時に生成し、それまでのコンテキストの再計算を避けるために利用するキー・バリューのアテンションテンソルを、GPUのHBMが不足した際に、より低速だが大容量のストレージ層へ移す運用です。100万トークンのコンテキストウィンドウと700億パラメーターのモデルでは、単一ユーザーのKVキャッシュが320GBを超え、NVIDIA H100のHBM総容量の4倍に達することがあります。これがNVMe SSDに保存されると、突発的で不規則な書き込みが発生し、セッションがアクティブか、休止中か、終了済みかによって各ブロックの有効寿命も大きく異なります。寿命の異なるブロックが同じNAND消去ブロックに入ると、ガーベジコレクションのたびに有効データを余計に移動させる必要が生じます。その結果、書き込み増幅率が上がり、NANDセルの摩耗が耐久性評価で想定されたよりも速く進みます。
●FDPはどのように書き込み増幅を減らすのですか
FDPはNVMeの標準機能で、ホストソフトウェアが書き込みコマンドにストリームIDを付け、似たタイミングで無効化されると見込まれるデータをSSDコントローラーに示す仕組みです。コントローラーはその情報を使って、有効寿命が近いデータを同じNAND消去ブロックに格納します。すると、そのブロックをガーベジコレクションする時点では大半のデータがすでに無効化されており、移動すべき有効データが少なくなります。その結果、論理書き込みに対する物理NAND書き込みが減り、書き込み増幅率を下げられます。一般的なエンタープライズSSDは通常2〜8本程度のFDPストリームをサポートしており、シーケンシャル書き込みとランダム書き込みを分けるには十分でも、セッション別、テナント別、共有プレフィックス別のKVキャッシュを同時に分離するには十分ではありません。ScaleFluxは200超のストリームへの対応をうたっており、フラッシュ層でライフサイクルをより細かく分離できるとしています。
●AI推論向けSSDでは、なぜIOPSよりDWPDが重視されるのですか
DWPDは、ドライブが定格寿命を満たしながら、1日当たり何回、全容量相当の書き込みに耐えられるかを示す指標です。従来のデータベースや仮想マシン、クラウドネイティブアプリケーションでは、IOPSやシーケンシャルスループットが先に制約になることが多く、1〜3 DWPDのSSDでも書き込み負荷に対応できる場合がありました。一方、KVキャッシュを扱う推論ワークロードでは、保存データ1TB当たりの書き込み負荷が高く、低DWPDのドライブでは容量を経済的に使い切る前に寿命が尽きる可能性があります。そうなると運用者は、必要な保存容量ではなく書き込み負荷を分散するために余分な物理容量を配備する必要があり、実データを保存しない容量にもコストを払うことになります。7 DWPDから10 DWPD超のような高耐久ドライブは、その負担を縮小または解消し、実際に保持したいKVキャッシュ量に合わせてSSD層を設計しやすくします。
●NVIDIAのCMXは、単に推論サーバーへNVMe SSDを直結する構成と何が違うのですか
CMXは、ノードローカルSSDと汎用ネットワークストレージの間に置く、ポッド単位で共有するコンテキストメモリー層です。NVIDIAはこれをG3.5と呼んでいます。単純な直結NVMe構成との違いは、BlueField-4 DPUがKVキャッシュのルーティング、データ完全性処理、暗号化のオフロードを担い、ホストCPUの処理能力を消費せずにI/Oを処理する点にあります。推論フレームワークはNVIDIAのDOCA Memosキー・バリューAPIとDynamoオーケストレーション層を通じてKVキャッシュにアクセスし、関連するKVキャッシュがすでに存在するノードへ推論要求を誘導できます。これにより、同時リクエスト間で共有されるプレフィックスデータの重複再計算を避けやすくなります。BlueField-4はSpectrum-X Ethernet経由のRDMAでCMXストレージ筐体を計算ポッドへ接続し、クラスタ全体から共通のKVキャッシュプールへ低レイテンシーでアクセスできるようにします。NVIDIAはこの方式について、従来のストレージ方式と比べ、長文コンテキストのワークロードで1秒当たりのトークン処理性能を最大5倍、電力効率を5倍に高められると主張しています。
元記事: KV-Cache Churn Burns Through SSDs: ScaleFlux Built Drive-Level Storage for NVIDIA CMX