家庭にあるPCのLLMリソースを束ねるNVIDIA「PAIR」、早速試してみた！

イメージ

　NVIDIAがIFA 2026に合わせて面白そうなソフトウェアをリリースした。その名は「PAIR」。LLMのエンドポイント(Endpoint)をプロキシし、タスクを分散/並列化させるものだ。早速試用レポートをお届けしたい。

NVIDIA PAIRとは？

　NVIDIAは9月3日(米国時間)、9月4日開幕のIFA 2026に合わせて家庭内の複数PCへAI推論を自動分配するソフト「NVIDIA PAIR」をベータ版として発表、Apache 2.0ライセンスで公開した。

　PAIRは「Personal AI Router」の略で、家庭内ネットワーク上の複数PCへAI推論リクエストを自動的に振り分けるルーティングソフト。特徴は以下の通り。

• 各PCにインストールすると、mDNSで機器を自動検出
• 6桁コードでペアリングし、機器間通信はmTLSで暗号化
• LM StudioやOllamaのAPI Endpointの手前に入り、リクエストを中継するプロキシとして動作
• モデルシャーディングやテンソル並列で複数GPUを1つに見せるのではなく、リクエスト単位で丸ごと別PCに回す方式
• 対応OSはWindows、Linux、macOS。NVIDIA以外のGPUやApple M4搭載Macもノードとして参加可能
• ライセンスはApache 2.0、バージョン0.1.1(ベータ)

　ざっくり使い方と機能を説明すると、ペアリングに6桁コードを使い、OpenAI API互換とOllama互換APIのプロキシと、負荷などによる振り分け機能を持つ感じだろうか。VPN対応はなく、家庭内LANのみがその対象だ。

　しかし、それであればLM StudioやOllamaの具体的な名前があるのは妙な感じがする。この辺りは実際試用しながら、GitHubのコードをAIと一緒に(笑)眺めつつ調べてみたい。

インストールと中身の話

　インストールはGitHubから環境に応じて実行系をダウンロードするのが簡単。今回はWindowsとmacOSで試してみたい。GitHubを眺めるとリリースには数多くの並んでいて、どれがどれ？的な感じだ。まとめると、

　というようになる。またservice-というのもあるのだが、これはGUIを使わずバックエンドサービスのみ利用したい場合用だ。今回は*印を付けた3つの環境でテストする。しかしIntel Macはもういいのでは？という印象はある。

NVPAIR-Setup-0.1.1-arm64.dmgでインストール開始

OllamaとLM Studioのオン/オフ設定。筆者はOllamaを使ってないのでLM Studioのみ

インストール中……が、インストール失敗

~/.lmstudio/bin/lmsがないのが失敗の理由。筆者の環境に合わせてシンボリックリンクして一件落着

　実際にインストールしたところmacOSではエラーとなった。調べると、~/.lmstudio/bin/lms を見に行くらしく、インストールしてないのでエラー。これは、筆者の環境では/Users/knishika/.cache/lm-studio/bin/lmsにあるためで、シンボリックリンクして一件落着。ただ一般的にはこの時点でインストールを諦めるかもしれない。

LM Studio登録済みのモデル一覧。LM Linkしている関係でほかのPCにあるLLMも見えている

LM StudioのPort。Proxy: 1234、Server: 1235

Settings > Cluster。このMacのIPアドレス: 192.168.11.20とPairing Port: 14321

Settings > Service

　残り2つ。1つはLM Studioは入ってるもののiGPUが非力でLLMは未ダウンロード、LM Linkだけで使っているArm版WindowsノートPC、もう1つはRTX 5060 Ti(16GB)+RTX 4060 Ti(16GB)のデュアルGPUでLM StudioをインストールしてあるPC。これはLM Link非参加。

2台のPCがSettings > Clusterに表示されている

inviteで6桁コードを表示、これを対象PC側で入力する

3ノード接続された状態

　これで準備完了。M4 Max 128GBのMacBook Pro 14と、RTX 5060 Ti(16GB)+RTX 4060 Ti(16GB)のデュアルGPU PC、そしてiGPUしかないARM版WindowsノートPC。3つの環境でつながったことになる。

使ってみる

　実際使うにはOpen AI API互換かOllam互換APIに対応したChatアプリやエージェントを用意し、接続エンドポイントをPAIRにすれば動くはずだ。今回はOpen WebUIを使用した。

PAIR画面の右上にEndpointとあるので開くと、urlが表示される

Open WebUIの接続設定。接続確認

モデル選択にmacOSとWindowsのLM Studioに設定してあるのが出てきた

Chatで何か入力すると、PAIRのパネルではこんな感じで接続している様子が分かる

　入っているLLMがバラバラなので負荷分散のチェックはできていないが、とりあえず動作の確認はOK。またLM Studioのコンソールを見ていると、PAIRからポーリングし状況を確認しているようだ。

　次に負荷分散。仕掛け的(Endpointのモデル一覧に表示されてるものを選ぶ)に全く同じLLMを2つ以上用意しないとダメっぽいので、全く同じLLMを2つのLM Studioに入れ、それをAIから連続リクエスト、どうなるのか？様子をみたい。

2つのノードに流れ込んでいるのが分かる

　ご覧のように負荷分散している様子が分かる。AIによると、

　とのこと。速いグループはRTX 4090(48GB改)、遅いグループはRTX 5060 Ti(16GB)+RTX 4060 Ti(16GB)のデュアルGPUだ。なるほど、こんな感じで動くのか！と納得した次第。

　「ん？RTX 4090(48GB改) PCは今回PAIRしてないのでは？」と思われた方はなかなか鋭い。これはMac上のLM StudioとRTX 4090(48GB改) PC上のLM StudioでLM Linkしているため、Mac経由でアクセス可能な状態なのだ。複合技というわけだ(笑)。

　今度は障害テスト。負荷分散処理中、意図的に片方のLM Studioを終了させると……。

　というようにエラーで止まった。つまり、落ちた方に割り当てられていたリクエストを、正常な方へ自動的に再送するような機能は備わっていないようだ。これはdocs/known-issues.mdxの「PAIR Does Not Detect a Stuck Service Automatically」(PAIRは、スタックしたサービスを自動的に検出しない)という既知の制限とも一致する。

　Arm版Windows搭載ノートPCは、クライアントとしてだけ用にLM Studio+LM Linkを入れていたが、試したところLM StudioもOllamaもない環境でもPAIRは動作。クラスタに参加でき、Endpointを叩くとLLMが反応した。従ってLM StudioもOllamaもない状態でPAIRをインストールすれば、Open WebUIやエージェントなどが使用可能になる。ノートPCなどにはピッタリだろう。

一通り動いたところで気になる点を深掘り

　まず、気になった点は、“推論リクエストの転送だけを見れば、相手がOpenAI互換APIを喋りさえすればvLLMでもTGIでも構わないはず”……なのに、仕様としてLM StudioとOllama限定となっていること。

　コードを眺めると、PAIRが単なるリクエスト転送だけでなく、エンジンのインストール/起動停止/モデルカタログ管理/ロード状態の追跡まで丸ごと面倒を見る設計になっているようだ。

　Ollamaには正式な停止APIがなく生プロセスとして扱うしかないのに対し、LM Studioには公式の停止コマンドがある。この程度の違いでもエンジンごとに個別実装が必要なようだ。

　加えてモデルカタログもOllama Library形式とLM StudioのHugging Faceベース形式でまったく別物であり、それぞれ専用のパーサ(ollama-library.ts、lmstudio-catalog.ts)が用意されている。ここまで対応するならアプリ限定は仕方ない部分だ。

　次に負荷分散のルーティングの仕掛けはこれとknown-issues.mdx、

1. リクエストで指定したモデル名を実際に保有しているノードだけが対象
2. 1の状態で且つキューに溜まっている処理量が少ないノードを優先
3. GPUの性能差、メモリの空き、リクエストの重さ……までは考慮しない

　かなり簡単なキュー本数ベースの分散だ。ただこれだとLM StudioかOllama上で全く同じモデルが動いていないと機能しない。確かにこの実装は正しいのだが、もう少し緩めないと使い道がなくなる。たとえば、

1. 現状通り。完全一致のモデルのみ
2. Qwenシリーズ、Gemma 4シリーズなど同系列なら許可(Think ON/OFF、lowなどの切り替え方も同じ)
3. 何でも空いてるモデルを使う

　と、この3パターンあれば筆者のように用途別にGPUを使っていても、単一EndpointでOpen WebUIなどが使えるため、PAIRはPAIRでありとなる。さすがに3はセッションがぐちゃりそうな気もするが……(笑)。

　さて、おおよそPAIRの動きが分かったところで、素朴な疑問として「これ誰が使うの？」だ。

　家庭内LANだけが対象だと、筆者のように複数GPUを所有するケースはまずなく、あってもギリギリ使えそうな4～8GB VRAM搭載PC 1台。これを家族で共有するならLM StudioとLM Linkだけあれば良い。設定も簡単だ。

　冒頭にリンクした記事中にある“米国の家庭の半数以上が2台以上のPCを保有しているものの”もおそらく同じで、そもそもLLMが動くリソースを持っていないのが大半ではないだろうか。

　少し話は逸れるが、VPNサービスのTailscaleを使うと、メールアドレスでグルーピングした複数のPCを家庭内LANだけでなく外からでも使用可能。GPU搭載PCも例外ではなく、プロトコル、ポートの制限もない。普通のノートPCからこれを使ってLM Studio+LM Linkすれば、どこでもLLMが使える環境を構築できる(もちろんComfyUIなども使用可能)。どう考えてもこっちの方が便利だ。

　仮にいろいろGPUを所有している場合、おそらくそれぞれGPUの使い方が決まっているだろう。たとえば筆者のケースだとRTX 5090は画像/動画生成用 = ComfyUI、RTX 4080 Super(32GB改)+RTX 4090(48GB改)は、コーディングなどできるだけtok/sが速いLLMがほしいとき = Claude CodeやDeepSeek Harness、RTX 5060 Ti(16GB)+RTX 4060 Ti(16GB)のデュアルGPUは普段使い用(gemma-4-26b-a4b) = Open WebUI。128GB搭載しているM4 MaxやDGX Spark互換機は「DeepSeek V4 Flash」など、先に挙げたVRAM容量では絶対動かないもの対応用 = vLLMやMLXなど……つまりPAIRする意味がない。

　一番マッチしそうなケースは、小規模オフィスでVRAM 24～32GBのGPUを使い、QwenやGemma 4を10人未満で使用、少し負荷がかかってきたので、まったく同じサーバーを追加して、面倒なことをせずサクッと負荷分散させたい時にPAIRを使う、といったところだろうか。これなら使用するLLMが同じなのでPAIRの負荷分散は機能する。しかし、問題は対応しているのがLM StudioとOllama。vLLM非対応なのは痛い(障害時のフォールバックも。後に対応するかもだが)。

　NVIDIAがこのようなことを知らずにリリースしているはずもなく、これからいろいろ拡張されるのだろう。あくまでも現時点でこのような仕様、という話だ。LLMだけでなくComfyUIなどいろいろなアプリにも対応してほしいところか。

　以上のように、NVIDIA PAIRは、LLMのEndpointをプロキシする仕掛けだ。macOSではセットアップに少しトラブったものの、何もなければ非常に簡単にインストールできる。

　最大の問題は最後に書いた、米国も含めほとんどの家庭でそもそも束ねるLLM自体がないことと、LM StudioとOllama限定。この2点。後者はまだバージョン0.1.1と言うこともあり、これからいろいろ機能拡張が入ると予想される。

　問題は前者。昨今のメモリ高騰、それに伴うGPUやSSDの激値上がり……それなりの性能を持つPCは高価で手が出せない状態になりつつある。ここが何とかならないとPAIRどころか、ローカルでそこそこのLLMを動かすことすら難しくなる。その引き金を引いたのがAIとは何とも……困った時代になったものだ。