ニュース

DeepSeekショック再来?「DeepSeek V4 Flash」正式版が無償公開

 5分の1以下のサイズで上位モデルを圧倒したAIが、誰でもダウンロードできるようになった。DeepSeekは7月31日(日本時間)、「DeepSeek V4 Flash」正式版の重みを、MITライセンスのもとHugging Faceで無償公開した。エージェント系のベンチマーク9項目すべてで、上位版「DeepSeek V4 Pro」のプレビュー版を上回ったモデルだ。重みはFP4とFP8を組み合わせた形式で約167GBある。

 DeepSeek V4 Flashは、総パラメータ数2,840億のうち推論時に130億だけを動かすMoE(Mixture-of-Experts)型のAIモデルだ。コンテキスト長は100万トークンで、今回公開されたのは正式版にあたる「DeepSeek V4 Flash 0731」となる。DeepSeekは2025年1月、低コストの高性能モデルで米株式市場を急落させ、「DeepSeekショック」と呼ばれる騒動を起こした企業だ。

オープンモデルのGLM-5.2をスコアがある8項目すべてで上回る

 オープンモデル同士の比較でも強い。DeepSeekが公表した比較表では、同じくオープンモデルの「GLM-5.2」を、スコアが掲載された8項目すべてで上回った。業務自動化の「AutomationBench (Public)」は25.1対12.9とほぼ2倍で、ツール操作の「Toolathlon-Verified」も70.3対59.9と差が大きい。一方、Anthropicの「Claude Opus 4.8」には全項目で届いていない。

DeepSeekが公表したベンチマーク比較。DeepSeek V4 Flash正式版(DeepSeek-V4-Flash-0731)は、オープンモデルのGLM-5.2にスコアがある8項目すべてで勝り、AutomationBench (Public)は25.1対12.9。上位版DeepSeek V4 Proのプレビュー版にも9項目全勝だが、Claude Opus 4.8には全項目で届いていない

投機的デコードのモジュールが最初から組み込まれた

 ただし、Hugging Faceの表示は3,040億パラメータになっている。差の約200億は、推論を高速化する投機的デコードのモジュール「DSpark」が、今回のチェックポイントに最初から組み込まれているためだ。プレビュー版では別のリポジトリに分かれていた部分が、1つにまとまった。

 DSparkは、次に来るトークンをまとめて先読みし、当たっていれば採用する仕組みだ。出力の中身を変えずに生成速度だけを上げられる。vLLMでは起動時にフラグを1つ足すだけで有効になる。

DeepSeek V4 Flash 0731オープンウェイト版の主な仕様

  • リポジトリ: Hugging Faceの「deepseek-ai/DeepSeek-V4-Flash-0731」。ライセンスはMITで、商用利用・改変・再配布が認められる
  • 規模: 本体は総パラメータ数2,840億、推論時のアクティブパラメータ数130億のMoE型。Hugging Faceの表示は投機的デコードモジュールを含む3,040億
  • 重みのサイズ: FP4とFP8を組み合わせた形式で約167GB
  • コンテキスト長: 100万トークン。最大出力は38万4,000トークンの確保が推奨される
  • 投機的デコード: 「DSpark」を同梱。vLLMでは起動オプションに--speculative-configを追加して有効化する
  • 推論の強度: 「low」「high」「max」の3段階

公式構成はGB300×4基。ただし実際の要求はもっと小さい

 公式が例示するvLLMの起動コマンドは、NVIDIAのデータセンター向けAIチップ「GB300」を4基積んだノード1台で動かす前提だ。GB300は1基でメモリ(HBM3e)を288GB積む。ただしこれは複数ユーザーへの同時提供まで見込んだ構成で、モデル自体の要求はもっと小さい。個人での実行は、後述の量子化版が現実的な選択肢になる。

公式リポジトリにチャットテンプレートは同梱されない

 既存のツールがそのまま動くとは限らない。今回のリリースにはJinja形式のチャットテンプレートが含まれず、代わりにプロンプトを組み立てるPythonスクリプトが「encoding」フォルダで提供される。推論の強度は「low」「high」「max」の3段階で、highとmaxでは最大出力を38万4,000トークン確保することが推奨されている。

ローカル実行でDeepSeekが推奨する設定

  • temperature: 1.0
  • top_p: エージェント用途は0.95、それ以外は1.0
  • 最大出力長: 推論の強度が「high」「max」の場合は38万4,000トークンを確保
  • プロンプトの組み立て: Jinja形式のチャットテンプレートは同梱されず、「encoding」フォルダのPythonスクリプトとテストケースを使う
  • 参照構成: vLLMでNVIDIA GB300を4基積んだノード1台。ほかのハードウェア構成はvLLMのレシピを参照

手元で動かせる量子化版も翌日に登場した

 手元で動かす道は、公開の翌日には開かれた。Unslothが8月1日、llama.cppなどで使えるGGUF形式の量子化版を公開した。原稿執筆時点でダウンロードできるのは4bit版(約155.1GB、メモリ168GBで動作)と8bit版(約161.9GB)の2つ。より小さい量子化版も同日中に公開するとしており、メモリ110GBで動くという3bit版(約103GB)なども公開されると思われる。

DeepSeek V4 Proの正式版はまだ公開されていない

 残るのは上位モデルだ。DeepSeek V4 Proは正式版そのものがまだ公開されておらず、APIの対応も8月上旬とされている。プレビュー版の重みはMITライセンスで公開済みだが、正式版の重みをどうするかは明らかになっていない。