ニュース

Liquid AI、AIエージェント向け24B推論モデル「LFM2.5-24B-A2B」無償公開

 Liquid AIは10月13日、LFM2.5シリーズの推論モデル「LFM2.5-24B-A2B」を発表した。Hugging Faceでオープンウェイト版を「LFM Open License v1.0」のもとで公開している。基本的には無償で利用でき、商用利用も可能だが、年間売上高が1,000万ドル以上の企業による商用利用は商用ライセンスの取得が必要となる。また、Liquid ConsoleでAPIも提供しており、API料金は100万トークンあたり入力0.10ドル、キャッシュ入力0.05ドル、出力1ドル。

 LFM2.5-24B-A2Bは、ノートPCなどのデバイス上で高速に動作するテキスト専用のAIエージェント向け推論モデル。総パラメータ数は24B(240億)で、1トークンの処理に使うアクティブパラメータを抑え、計算負荷を軽減している。コンテキスト長は13万1,072トークンまで拡大するとともに、インプレイストークナイザー拡張することで、複数の手順を伴うタスクやツール呼び出しを実行できる。

 トークンあたりのアクティブパラメータ数は2B(20億)で、モデルカードの詳細仕様では24.5億。語彙数は12万8,000、レイヤー数は40で、MoEブロックごとに64のエキスパートを備え、そのうち4つを選択するTop-4ルーティングを採用した。ショートコンボリューションとGQAを組み合わせたハイブリッドMoE構造で、事前学習は約33兆トークンに拡大した。最終回答の前に思考過程を生成する推論専用モデルとなる。

LFM2.5-24B-A2B Edge Inference

 同社の測定によると、Apple M5 Maxでは生成速度が184トークン/s、入力処理速度が4,318トークン/sで、メモリ使用量は15GB。Mac Studioではそれぞれ146トークン/s、2,451トークン/s、16GBとなった。また、AMD Ryzen AI Max+ 395では114トークン/s、1,641トークン/sで、メモリ使用量は16GB。測定にはllama.cppを使用し、Q4_K_M量子化、入力コンテキスト長4Kトークンの条件で評価した。

LFM2.5-24B-A2B GPU Inference

 NVIDIA B300 1基を使ったGPU推論の評価では、最大2万1,070トークン/sの出力スループットを記録した。これは複数リクエストを並行処理した際の合計値で、単一リクエストの生成速度とは異なる。SGLang 0.5.22を使用し、BF16、入力1,024トークン、出力最大256トークンの条件で測定している。

 推論環境はllama.cpp向けのGGUF、Apple Silicon向けのMLX、vLLM、SGLang、ONNXなどに対応する。OpenClaw、Hermes Agent、Pi、OpenCodeといったエージェント実行環境との連携も想定しており、手元のハードウェアで推論やツール呼び出しを行なえる。