トピック

AIを手元で動かすカギは「メモリ」だ!1台で128GB、 2台接続で256GBになる小さなAIモンスター「Dell Pro Precision with GB10」を検証

 LLMや生成AIを手元で動かそうとしたとき、まず壁になるのは処理の速さよりも「メモリに載るかどうか」ではないでしょうか。大きなモデルは数十GB、数百GBに達し、一般的なビデオカードには収まりません。かといって、社内の機密データをクラウドに預けるのはためらわれます。そんな現場は少なくないはずです。

 解決策として浮上してくるのが、NVIDIA GB10と128GBのメモリを積んだ小型デスクトップ「Dell Pro Precision with GB10」。この注目機種を西川和久さんと検証しました。ネットワークを切った状態で、どこまでAIが動くのか?その実用度は?

  さらに2台をつないでメモリを256GBにすると、1台では載らない巨大なモデルは動くのか。“手元で動くAI”の現在地を、ぜひ動画で確かめてください。

メモリ128GB搭載・DGX Spark互換機のスゴさが分かった! LLMも画像生成も“同時に”動く小さな箱|Dell Pro Precision with GB10をAIのプロと検証【2台接続も】
【公式チャンネル “PAD”チャンネル登録のお願い】
PC Watch、AKIBA PC Hotline!が共同でお届けするPCハードウェアと関連情報の専門YouTubeチャンネルです。完成品PC、自作PC、パーツ、周辺機器などを専門媒体ならではの視点で掘り下げます。コンテンツは今後も続々と追加予定。チャンネル登録をお願いします!