ニュース

StrataでDeepSeek-V4.1-Flash-1017が動く?最適化モデルがまもなく登場

 パラメータ数763B(7,630億)の超大型AIモデルですら、ゲーミングPCで動かせるようになるかもしれない。Michael Helcig氏が10月20日に明かしたもので、同氏が開発に関わるGSQ-RCOでモデルを圧縮し、推論エンジンである「Strata」でローカル推論向けに最適化したという。

 モデルは10月23日にHugging Faceにて公開予定としているが、モデル名や必要要件などの詳細は現時点で明らかとなっていない。パラメータ数などから、ベースとなるモデルは「DeepSeek-V4.1-Flash-1017」ではないかとみられている。

 Strataは、ゲーミングPCなどのコンシューマ向けPCで、大型のAIモデルを使ったローカル推論を実現するソフトウェア。VRAM、メインメモリ、SSDを組み合わせ、PC全体で処理を分担することで、高速な推論処理を可能にする。

 10月19日に公開された「Strata 0.2.0-beta」では、メインメモリ32GB以上の環境において、Qwen3.8-Flash-Nextをベースとした低ビット量子化モデル「Qwen3.8-Flash-Next-Gyro-GGUF」を動作させられるようになっている。