NVIDIA、複数PCへローカルAI推論を振り分ける「PAIR」を無料公開

NVIDIAは、ローカルネットワーク上の対応マシンを検出し、AIエージェントなどから届く独立した推論リクエストを自動で振り分ける「NVIDIA Personal AI Router（PAIR）」のベータ版を無料公開した。OllamaとLM Studioに対応し、複数の処理を同時に実行するマルチエージェント型のワークロードなどで、家庭や小規模環境にある複数マシンの計算資源を活用できる。

PAIRは複数GPUのメモリを統合する仕組みではなく、1件の推論を複数マシンへ分割するものでもない。各リクエストは、必要なモデルを保持し、処理可能な状態にある1台のノードで完結する。

■複数エージェントの推論待ちを分散

NVIDIAは9月3日、ベルリンで開催されたIFA 2026に合わせ、PAIRのベータ版を発表した。ソースコードもApache License 2.0の下で公開している。

AIエージェントのなかには、調査やコードレビュー、文書整理といった複雑なタスクを複数のサブエージェントへ分割し、モデルへの問い合わせを並行して実行するものがある。こうした処理を1台のマシンへ集中させると、複数のリクエストが同じGPUの処理待ちとなる一方、ネットワーク上にある別のPCの計算資源が使われないことがある。

PAIRは、Ollama互換およびOpenAI互換のローカルエンドポイントをアプリケーションへ提示し、受け取ったリクエストを処理可能なノードへ転送する。アプリケーション側は実際にどのマシンで推論が行われたかを意識する必要がなく、対応する既存の接続方法を維持したまま別のマシンを利用できる。

■NVIDIAのデモでは処理時間を約半分に短縮

NVIDIAは、Nous Researchが開発するオープンソースのAIエージェント「Hermes」を使い、5つのサブエージェントへ処理を分割するデモを実施した。家庭の受信トレイを模したデータを各サブエージェントが分担して確認し、対応計画をまとめる内容である。

同社発表によると、Ollamaを介してQwen3.6-35B-A3Bを実行した場合、単体のRTX Spark搭載ノートPCでは平均18分を要した。RTX Spark搭載ノートPC、DGX Spark、GeForce RTX 5090搭載デスクトップの3台をPAIRで接続した構成では、同じ処理を平均8分48秒で完了したという。

これはNVIDIAが特定の機器、モデル、設定、ネットワーク環境で実施したデモの結果であり、一般的な性能を示すベンチマークではない。得られる効果は、同時に実行できる独立したリクエストの数やモデル、推論エンジン、各マシンの性能、ネットワーク状態などによって変わる。デモは、並行して処理できる仕事を複数ノードへ振り分けることで、ワークロード全体の完了時間を短縮できる例を示したものだ。

■VRAMの統合やモデルの分割は行わない

PAIRはGPUプーリングやモデルシャーディングの仕組みではない。複数GPUのVRAMやユニファイドメモリをまとめ、1つの大きなメモリ空間として扱うことはできない。また、1つのモデルや実行中の推論リクエストを複数マシンへ分割することもない。

各リクエストは条件を満たす1台のノードへ送られ、そのノード上の推論エンジンが処理を完了する。複数のマシンを追加すると、同時に処理できる独立したリクエストを増やせるが、単独のリクエストそのものを複数GPUで高速化する仕組みではない。

PAIRをインストールした各マシンは対等なノードとして動作し、中央のサーバーや主要ノードを必要としない。ローカルネットワーク上の候補を検出した後、利用者が6桁のPINを相手側のマシンへ入力してペアリングを成立させる。

ペアリング後のノード間通信では相互TLSが使われ、クラスタに参加していないマシンからの推論リクエストを拒否する。初回のペアリングには短いPINを使用するため、NVIDIAは信頼できるローカルネットワークとマシンの間でPAIRを使用するよう案内している。

■モデルと現在の負荷を基にノードを選択

アプリケーションがPAIRのローカルエンドポイントへリクエストを送ると、プロキシは到達可能なノードのうち、対応する推論エンジンが稼働し、要求されたモデルを保持しているノードを候補にする。そのうえで、各ノードに蓄積している処理量などを基に転送先を選ぶ。

選択されたノードのOllamaまたはLM Studioが推論を実行し、応答はPAIRのプロキシを通じて呼び出し元のアプリケーションへストリーミングで返される。アプリケーションからは通常のローカルAPIを呼び出したように見え、どのマシンが処理を担当したかはPAIR側で確認できる。

ノートPCがネットワークから外れた場合や、推論エンジンが停止している場合、要求されたモデルを保持していない場合、そのノードはリクエストを処理できない。PAIRは各ノードの到達可能性、エンジンとモデルの状態、保留中の処理量などを踏まえ、利用できるマシンのなかから転送先を決める。

■効果が見込めるワークロード

PAIRが適しているのは、同時に複数の独立した推論リクエストが発生するワークロードである。複数のサブエージェントを並行して動かすAIエージェントや、複数のローカルAIアプリケーションを同時に使用する場合は、別々のリクエストを異なるノードへ振り分けられる。

一方、各処理が直前の結果に依存し、モデルを順番に呼び出さなければならないタスクでは、分散できる仕事が少ない。単一の長い推論リクエストが処理時間の大半を占める場合も、マシンを追加するだけではそのリクエストは速くならない。

要求されたモデルを保持するノードが1台しかなければ、すべての該当リクエストはその1台へ送られる。この場合、複数ノードで構成したクラスタであっても、同じモデルの処理能力を分散することはできない。

■各ノードにモデルの保存が必要

PAIRではモデルファイルをノード間で共有せず、OllamaやLM Studioなどの推論エンジンがマシンごとにモデルを保持する。特定のモデルに対するリクエストを複数ノードへ振り分けるには、参加させたい各ノードへ同じモデルを用意する必要がある。

そのため、大規模なモデルを複数マシンへ複製すると、必要なストレージ容量とモデルのダウンロード量もノード数に応じて増える。モデルの量子化方式や配布形式によってファイルサイズは異なるため、利用者は各推論エンジンで実際に取得するモデルの容量を確認する必要がある。

また、モデル全体を1台で処理する設計上、それぞれのノードには使用するモデルを読み込めるだけのGPUメモリまたはユニファイドメモリが必要となる。クラスタ全体のメモリ量を合計し、単体では収まらないモデルを動かす用途には利用できない。

■OllamaやLM Studioの上位でリクエストを管理

Ollamaは別のホストで稼働するサーバーへ接続でき、LM Studioにもネットワーク経由でモデルを利用するための機能がある。PAIRの特徴は、複数のノードをまとめて管理し、リクエストごとに処理可能な転送先を選ぶ層を両者の上に設ける点にある。

アプリケーションは単一のローカルエンドポイントへ接続し、PAIRがノードの検出、モデルの有無の確認、転送先の選択、応答の中継を担う。ノードが利用できなくなった場合、新たなリクエストについては別の適格なノードを選択できる。

PAIR自体は推論エンジンではなく、モデルの実行は各ノード上のOllamaまたはLM Studioが担当する。したがって、各マシンで利用できるOS、GPU、ドライバー、メモリ容量は、それぞれの推論エンジンとモデルの要件にも左右される。

■RTX搭載PCやMacを混在可能

PAIRベータの対応環境には、GeForce RTX 20シリーズ以降のGPUを搭載するシステム、Turing世代以降のNVIDIA RTX PROワークステーションGPU、DGX Spark、Apple M4以降を搭載するMacが含まれる。

対応OSはWindows 11、Linux、macOSで、Windows、Linux、macOSのノードを同じクラスタへ参加させることができる。デスクトップ向けのグラフィカルインタフェースに加え、画面を持たないマシンやSSH環境で利用するためのターミナルインタフェースも用意されている。Windows on Arm版はベータ公開時点で実験的な対応となる。

NVIDIAは2026年10月に、RTX Sparkを搭載したWindowsノートPCや小型デスクトップを投入する予定だ。RTX Sparkの上位構成は、Blackwell世代のRTX GPU、最大20コアのGrace CPU、最大128GBのユニファイドメモリを組み合わせる。NVIDIAの製品情報では、ASUS、Dell、HP、Lenovo、Microsoft、MSIの搭載製品が案内されている。

PAIRによって、こうした新しいPCだけでなく、既存の対応RTX PCやMacも、複数の独立したローカルAI処理を受け持つノードとして組み合わせられる。

■導入手順とソースコード

PAIRを利用するには、対象となる各マシンへソフトウェアをインストールし、信頼できるローカルネットワーク上でノードをペアリングする。推論を担当するノードではOllamaまたはLM Studioを稼働させ、処理させたいモデルを用意する。

その後、AIアプリケーションやエージェントの接続先として、PAIRが提示するOllama互換またはOpenAI互換のローカルエンドポイントを指定する。PAIRは受け取った独立リクエストを適格なノードへ送り、応答を同じエンドポイント経由で返す。

ベータ版のインストーラーとソースコードは、NVIDIAの公式ページおよびGitHubで公開されている。ソースコードにはApache License 2.0が適用され、開発者はノード検出、ペアリング、推論ルーティング、推論エンジン連携などの実装を確認できる。

元記事: NVIDIA’s Free PAIR Software Turns Home Networks Into Multi-GPU AI Inference Clusters