トピック
128GBでLLMと画像生成は同時に動く。デルのミニPC「Dell Pro Max with GB10」を徹底検証
- 提供：
- デル・テクノロジーズ株式会社
2026年8月21日 10:30
「大きなAIモデルを動かすにはハイエンドGPUがあればいい」。そう思っていないだろうか？だが、VRAMが16～32GBの一般的なGPUでは、大きなモデル1つすら載せ切れないことが多い。GPUのメモリは搭載量が固定されており、どうしても大きなモデルを動かしたい場合は複数枚のGPUを用意する必要がある。しかし今度は、マザーボード側の対応や電源容量の問題に頭を悩ませることになる。
デル・テクノロジーズの小型ワークステーション「Dell Pro Max with GB10」は、そこが根本的に違う。NVIDIA GB10 Grace Blackwell Superchipと128GBの統合メモリを、150mm角/1.31kgの筐体に凝縮した高性能デスクサイドAI開発機だ。CPUとGPUが同じ128GBのメモリプールを共有する設計のため、LLM(大規模言語モデル)と画像生成を同時に走らせても、この大きな共有プールの中に両方が収まる。
本稿では、この「128GBの統合メモリ上でCUDAが動く」という1点を、実機での検証を通じて確かめていく。まず1～3章で本機のハードウェアとソフトウェアの特徴を押さえ、4～6章で実際にLLM単体・画像生成単体・両者の同時実行を試し、7章では統合メモリゆえの得手不得手というより本機ならではの特徴を書く。
1. 128GBの統合メモリ上でCUDAが動く、デスクサイドのAI開発機
Dell Pro Max with GB10の中核は、NVIDIAが開発したSoC「GB10 Grace Blackwell Superchip」だ。GraceブランドのArmベースCPUと、BlackwellアーキテクチャのGPUを1つのパッケージに統合し、両者が128GBのLPDDR5xメモリを「統合メモリ」として共有する。主なスペックは以下の通り。
| Dell Pro Max with GB10の仕様 | |
|---|---|
| CPU | NVIDIA Grace CPU(20コア、16MB L2キャッシュ) |
| GPU | NVIDIA Blackwell GPU(CUDAコア数: 6,144) |
| 演算性能 | 最大1PFLOPS(FP4精度) |
| 統合メモリ | 128GB LPDDR5x、帯域273GB/s |
| ストレージ | 標準4TB SSD(M.2 2242、SED対応、2TB/1TBも選択可) |
| OS | NVIDIA DGX OS(Ubuntu Linux 24.04.4 LTSベース) |
NVIDIAによれば、単体で最大2,000億(200B)パラメータ、ConnectX-7 Smart NICで2台を接続すれば最大4,000億(400B)パラメータのモデルをローカルで扱える設計だという。
なお、「最大1PFLOPS」という数字は、FP4(4bit浮動小数点)精度での理論値であり、倍精度演算を求める用途とは設計思想が異なる。この点は7章で改めて掘り下げる。
以降の章では、このスペック表の数字が実際のワークロードでどう効いてくるのかを、LLM推論・画像生成・同時実行の3段階で検証していく。
2. 150mm角/1.31kgの筐体と、280W USB-C 1本で完結する電源
GB10 Grace Blackwell Superchipのスペックだけを見ると重厚な印象を受けるが、実機を手に取るとまず驚くのがそのコンパクトさだ。筐体サイズは150mm×150mm×45.5～51mm、重量は最小1.31kgしかない。一般的なCPUを採用したミニPCと同レベルのサイズ感だ。
前面は放熱を意識したハニカム(蜂の巣状)メッシュのパネルで覆われており、内部で高負荷な演算をこなす筐体には見えないほど控えめなデザイン。ある意味スタイリッシュともいえる。
背面のポート構成は次の通り。
| ポート | 数量/仕様 |
|---|---|
| USB Type-C(電源入力用) | 1 |
| USB 3.2 Gen 2x2 3基、DisplayPort Alt Mode対応 | |
| ディスプレイ出力 | 1基、HDMI 2.1b |
| Ethernet | 1基、10Gigabit |
| ConnectX-7 Smart NIC | 2基、200Gbps QSFP、うち1系統は別のDell Pro Max with GB10との接続用 |
USB Type-Cポートは合計4系統あり、うち1系統(一番左側/電源ボタンの横)は280W USB ACアダプタからの電源入力用。一般的なデスクトップワークステーションのように太い電源ケーブルや大型電源ユニットを必要とせず、USB Type-Cポートケーブル1本を挿すだけで電源周りが完結する。
この省スペース性は、大容量メモリと高い演算性能を「デスクサイド」に置くというコンセプトを、物理的な面からも裏付けている。
3. 箱出しでnvidia-smiが通る。NVIDIA DGX OSという価値
Dell Pro Max with GB10の特徴は、ハードウェアだけでなくソフトウェア面にもある。搭載OSはUbuntu Linux 24.04.4 LTSをベースとした「NVIDIA DGX OS」で、CUDA、GPUドライバ、主要なAIフレームワークがあらかじめインストールされた状態で出荷される。
この「箱出しで動く」という価値は、自前でGPU環境を構築した経験がある人ほど実感しやすい。筆者は自宅のGeForce RTX 5090搭載機でUbuntuをクリーンインストールし、CUDA、cuDNN、各種ライブラリのバージョンを1つずつ合わせていった経験があるが、ドライバとフレームワークのバージョン不整合でエラーが出ることもあり、その都度調べて再試行など半日以上を費やすことも珍しくなかった。
その点、Dell Pro Max with GB10ではこの手間が発生しない。電源を入れ、初期セットアップ(ユーザーIDとパスワード入力程度)を終えれば、ターミナルで`nvidia-smi`を実行するだけでGPUが認識されていることを確認できる。
DGX OSは、NVIDIAがデータセンター向けGPUサーバーにも採用しているOSと同系統であり、デスクサイドで組んだ環境を、そのままDellのデータセンター環境に持ち込みやすいという特徴も持つ。個人の検証機としてだけでなく、企業のPoC(概念実証)環境としての立ち位置もこのOS選定に表れている。
4. 検証1: 128GBなければ動かないLLMをローカルで動かす
ここからは実際にモデルを動かし、数字で確かめていく。まずはLLM単体での検証だ。今回は、いずれも「128GBの統合メモリがなければそもそも動かない」規模のモデルを3種類用意した。
| ツール | モデル | 備考 |
|---|---|---|
| LM Studio(arm64版) | gpt-oss-120b | コンテキスト長は最大まで(KVキャッシュ込み)設定して実行 |
| vLLM | Qwen3.6-27B | 同上、最大コンテキスト+KVキャッシュで実行 |
| ds4([antirez/ds4]) | DeepSeek V4 Flash | Redisの作者としても知られるantirez氏によるローカル実行ツール |
いずれのモデルも、コンテキスト長を最大まで伸ばし、その分のKVキャッシュ(対話の文脈を保持するための一時メモリ)まで確保した状態で実行する。KVキャッシュはコンテキスト長に比例して肥大化するため、VRAMが16～32GB程度のGPUでは、モデル本体を載せた時点でKVキャッシュ用の余裕がほとんど残らない。長い文脈を扱おうとした瞬間にメモリ不足でエラーになるという経験をしたユーザーも多いはずだ。
補足すると、LM Studioはサイトからarm64版をダウンロード、sudo apt install -y libfuse2、chmod a+xして、--no-sandboxのオプションをつけて起動した。今回使用したのはgpt-oss-120bのMXFP4版で約64GBある。
vLLMは、spark-vllm-dockerというのがあり、その名前の通りDGX Spark、およびDell Pro Max with GB10のような互換機向けとなる。有名どころのLLMはレシピ(設定)ファイルが用意されているため一発で起動可能だ。また2台利用に対応したLLMも含まれており、DGX Sparkと互換機でvLLMを使うならこれがお勧めだ。
ds4はDeepSeek V4 Flash(284B parameters / 13B activated)をIQ2XXSまで量子化した上で、kv cacheをSSDに置くという離れ業をやってのけている。
評価軸は、トークン/s(生成速度)とファーストトークン(プロンプト入力から最初の1文字が出力されるまでの初速)の2つだ。3モデル/複数のコンテキスト長条件での結果を表にまとめる。
| コンテキスト | TTFT(秒) | トークン/s |
|---|---|---|
| LM Studio / gpt-oss-120b | ||
| short (~200 tok) | 0.498 | 47.5 |
| mid (~6K tok) | 0.524 | 43.6 |
| long (~14K tok) | 0.587 | 40.6 |
| max (~27K tok) | 1.415 | 36.1 |
| vLLM / Qwen3.6-27B | ||
| short (~200 tok) | 0.336 | 11.6 |
| mid (~6K tok) | 1.605 | 11.5 |
| long (~14K tok) | 0.636 | 11.3 |
| max (~27K tok) | 1.775 | 11.0 |
| ds4 / DeepSeek V4 Flash | ||
| short (~200 tok) | 10.076 | 15.6 |
| mid (~6K tok) | 32.799 | 13.5 |
| long (~14K tok) | 53.259 | 13.2 |
| max (~27K tok) | 93.106 | 13.0 |
ds4はKVキャッシュをSSDにしているためTTFTはどうしても遅くなってしまうが、284Bパラメータ/13B活性化のモデルが15tok/s程度で動くこと自体に意義がある。今回検証はしていないが、ConnectX-7接続で2台をつなぐと合計256GBの状態でDeepSeek V4 Flash(NVFP4)を動かせ、50tok/s程度出るという。
この表を見て、LM Studio(gpt-oss-120b)だけトークン/sが36～47と頭1つ抜けている点に疑問を持った読者もいるかもしれない。同じ「128GBないと動かない」規模のモデルなのに、なぜvLLM(Qwen3.6-27B)は11tok/s前後にとどまるのか。理由はモデルの内部構造の違いにある。
gpt-oss-120bはMoE(Mixture of Experts)で、パラメータ総数は120Bでも1トークンの生成時に実際に計算へ参加する(活性化する)のは約5.1B分だけだ。対してQwen3.6-27BはDense(密)モデルで、27Bのパラメータすべてが毎トークン計算に参加する。デコード速度はメモリ帯域と活性化パラメータ量で決まるため、実質的な計算量が少ないgpt-oss-120bの方が体感的にずっと速く感じられる、というわけだ。この「総パラメータ数と実際の速さは別物」という点は、7章のメモリ帯域の話にもつながってくる。
もちろんこれらはローカルのみで動作しており、外部に情報は漏れない。安心して業務用としても利用できる。
5. 検証2: 画像生成をComfyUIで動かす
次に画像生成単体の検証だ。ComfyUI上で、画像生成モデル「Z-Image-Turbo」を使って通常の生成フローを実行し、1,024×1,536px/1枚の生成時間を計測する。使用したのはComfy-Orgにあるz_image_turbo_int8_convrot.safetensors。Z-Image-TurboなのでSteps数は8で測定した。
推論中は約20GBを使用し、処理時間は約14秒だった。GeForce RTX 4090で同じ処理をすると7秒ほどなので倍の時間がかかっているものの、GB10のAI性能がGeForce RTX 5070相当だとされており、その観点では想定通りの性能が出ている。
あわせて、生成中の動作音を簡易測定してみた。高負荷な演算を小型な筐体内で完結させるハードウェアなので、ファンノイズは大きめなのではと思うだろう。だが、実際に測ってみるとComfyUI動作中でも本製品のファンノイズは環境ノイズと同等以下で、まったくといっていいほど騒音は発生しなかった。
6. 検証3: Visionモデルで参照画像を読み取り、そのままComfyUIで生成する
本記事の核となるのが、この同時実行デモだ。検証1と2で使ったLLMと画像生成を、1台の上で同時に走らせる。
流れはこうだ。まず参照画像を、LM StudioでVision機能を持つLLM(Qwen3.6-35B-A3B)にLLMノードを使い読み込ませ、画像の内容をテキストのプロンプトに変換する。今回はミニドレスの画像を用意した。
これをPrompt化した後、“A blue sky. A Japanese woman wearing a straw hat in a park in summer. she wearing ”の後へ追加。この合成したプロンプトをComfyUIに渡し、画像を生成すると、参照画像によく似たミニドレスを着た画像が生成される。
LM Studioをサーバーとして常駐させたまま、ComfyUI側の処理を並行して走らせるため、参照画像の解析から生成完了までを人手を介さず1台で完結できる。
このデモの意味は、単に「便利」という以上のところにある。VRAM 16～24GB程度のGPUでは、LLMをメモリに載せた状態で追加の画像生成モデルを同時にロードすることは物理的に不可能だ。Dell Pro Max with GB10では、100GB近いVRAMを利用できるためこれが成立する。
もう1つ検証した。これは最近筆者が作ったもので、タイムラインには本来非対応の動画生成AIであるLTX-2.3で、タイムラインを指定したプロンプトを可能にするものだ。簡単に説明すると、
- A Japanese woman wearing a tank top and shorts.
- 0–2s: sits on sidewalk, fixes ponytail, arms raised, smiles
- 2–4s: close-up, smiles looking away, morning light
- 4–6s: crouches feeding a cat in alley
このようなタイムラインプロンプトを実現したいとする。最初の1文は全体に関する指定だ。次にタイムラインに沿ってセグメントごとに動画を生成し、最後に連結すれば理屈上は出来上がる。
しかし、すべてのセグメントに対して全体設定を指定できないと同じ衣装にならない。また、タイムラインのどこかで着替えた場合、そちらを優先しつつ、以降は再度着替える指示がない限り、そのまま維持しないと連結した時に破綻する。といった感じで、ほかにも多くの要素を考慮する必要があり、なかなかやっかいな処理となるのだ。
このやっかいな処理をLLMで対応させ、キーフレーム画像を生成したら、そこから動画生成をセグメント数分行ない、最後にffmpegで連結している。筆者は日頃これを使うとき、LLM、画像生成、動画生成ですべてGPUを分けているが、本機だと1台で全部できてしまう。これがメモリ128GBのなせる業だ。
Dell Pro Max with GB10で実際に生成するのにかかった時間は、尺が19秒の動画で、LLM時間が3分25秒、生成時間が6分0秒、合計時間が9分25秒。メモリ利用量は92GBだった。
LLMはQwen3.6-35B-A3Bを使用している。ベンチマークテストで70tok/s前後出るのでかなり速い。それでも最大4並列で3分25秒かかっているのは、変換ロジックが膨大だからだ。本機が遅いわけではない。
加えてCASS(Cinematic Audio Source Separation)と呼んでいる各セグメントから音声、効果音、BGMを分離、BGMを破棄して新たに通しでBGMを差し替える処理では、専用のモデルを読み込むため、合計110GB超のメモリが必要となる。
こうなると1台で済ますには一般的なディスクリートGPU搭載機は選択肢に入らない。もちろん全部を一度に使うわけではないので、処理が終わるごとにアンロードすればこれほどのメモリを必要としない。ただしその場合は、毎回モデルをロードし直しとなるので時間がかかる。効率を上げるならこのリッチなメモリ搭載量を活用したい。
7. 128GBの統合メモリという特徴……得手不得手ではなく個性
Dell Pro Max with GB10のメモリはLPDDR5xで、帯域は273GB/sだ。単体GPUに搭載される広帯域メモリ(GDDR6XやHBMなど)と比べると、この帯域は広くない。
LLMの推論処理は、大きく「プリフィル(prefill: 入力プロンプトを読み込んで内部状態を構築する処理)」と「デコード(decode: 1トークンずつ文章を生成していく処理)」に分けられるが、このうちデコードはメモリ帯域に強く依存する。
実際に使っていても、一問一答のチャットでは、文字が1つずつ出てくる速度に「待たされている」感覚がある。GeForce RTX 5090機のようにストリームで文字が流れ込んでくる感じとは明らかに違う。
一方でプリフィルは演算性能(コンピュート)に依存する処理だ。こちらは1PFLOPS(FP4、sparse時)という演算性能が効いてくる。この数字はCUDAコア数(6,144基)も含めてGeForce RTX 5070(988 TOPS、CUDAコア6,144)とほぼ同じで、GeForce RTX 5060(614 TOPS)よりは明確に上だ。
そのため、プリフィルに関しては、手持ちのGeForce RTX 5070機と比べて、体感でそう変わらない速さが出ている。
長いコードベースを読み込ませてから短い差分を出力させるような使い方(つまり普段の開発作業に近い使い方)では、待ち時間の大半はプリフィル側で決まる。コーディング支援でDell Pro Max with GB10を使ってみて、デコードの遅さが気になる場面はチャット的なやり取りをしている時に限られ、開発用途では気にならないというのが実感だ。
もちろん、GeForce RTX 5090のような単体GPUを使えば、プリフィルもデコードもどちらも速い。その代わり、GeForce RTX 5090のVRAMには32GBという上限があり、加えて、消費電力・発熱も本機とは桁違いに大きい。
筆者の環境でも、GeForce RTX 5090搭載機は長時間回しているとファン音と発熱、そして消費電力がかなり気になる。だが、Dell Pro Max with GB10なら、LoRA学習のような長時間バッチ処理を一晩中回しっぱなしにしていても、音、熱、消費電力の面で気を使わずに済む。
この体感を踏まえると、273GB/sというメモリ帯域の狭さは単純な「弱点」というより、「大容量メモリ・低消費電力・静音性」を選び取った結果生じる本機の個性だと捉えている。
●8. 誰のための1台か、Dellで買う意味
ここまでの検証を踏まえると、Dell Pro Max with GB10は「万能機」ではない。画像や動画生成の速度だけを求めるなら、GeForce RTX 5090など単体の高級GPUを積んだマシンの方が速い。
また、チャット中心のLLM推論だけなど、用途を1つに絞るなら、それぞれにより適した製品が存在する。これは実際に使っていても感じることで、無理に「全部が最速」と言うつもりはない。
しかし、「LLMも画像生成も学習も、全部まとめて、CUDAで、1台で」という要件になると、話は変わってくる。VRAM不足に悩まされず、複数のAIワークロードを同時に走らせられ、かつCUDAエコシステムがそのまま使える統合メモリ機、という条件を満たす選択肢は、筆者が知る限り現状ではほぼGB10搭載機一択になるといっていい。
法人での導入を考える場合、SED(自己暗号化ドライブ)対応の4TBストレージによる機密/研究データの保護、ProSupportをはじめとする保守体制、見積・稟議・資産管理といった法人調達のしやすさも、Dellで購入する意味として挙げられる。
Dell Pro Max with GB10は部署単位のPoC(概念実証)や研究用途にも、個人のAI好きにも、それぞれの理由で刺さる1台だ。