ニュース

DeepSeek-V4.1-Flash-1017が手元のゲーミングPCで動かせるツール

 「GLM-5.3-Flash」のローカル実行を実現するオープンソースの推論エンジン「Project Maya」において、新たに「DeepSeek-V4.1-Flash-1017」が利用可能になった。10月20日公開の最新バージョン「v1.1.16」にてサポートが行なわれている。

 Project Mayaは、本来データセンタークラスのハードウェアが必要な超大型AIモデルを、GeForceシリーズをはじめとしたNVIDIA GPUを搭載するPCなどで、高速かつプライベートに実行できるようにするソフトウェア。独自の量子化に加え、専用のエンジンが会話で最も頻繁に使われるエキスパートをGPU、次点をメモリ、そのほかをNVMe SSDに分割して保持することで、オリジナルに近い性能を維持しつつ、ローカルPCでの高速処理を実現する。

 今回新たにサポートされたのは、パラメータ数748B(7,480億)のDeepSeek-V4.1-Flash-1017で、デフォルトの独自量子化版「Maya-S」では、次のトークンがオリジナルと一致する割合が92.6%だという。マルチGPU環境にも対応するほか、セットアップ時にDSpark drafterを取得する機能も用意しており、ドラフト処理の恩恵を受けられる環境ではさらなる高速化も行なえる。