ニュース

スマホでAIエージェントが動く新時代。9Bをも凌駕する「LFM2.5-2.6B」公開

LFM2.5-2.6Bのベンチマーク結果。一部の項目ではQwen3.5-9Bをも凌駕する

 AIモデルの進化で自律型のAIエージェントが現実味を帯びてきている。だがAIエージェントを使うなら賢い大規模モデルが必要で、ハードウェアリソースが十分ではないPCやスマートフォンにおいて、ローカル環境での実行は非現実的だった。しかし、Liquid AIが8月4日(米国時間)にリリースしたモデル「LFM2.5-2.6B」は、その状況を一変させそうだ。現在、Hugging Faceなどから無償でダウンロードできる。

 LFM2.5-2.6Bは、完全にデバイス上で動作するAIエージェントに特化したモデル。もっとも普及しているエージェント型ハーネス内でトレーニングを行なうことで互換性を向上させ、ツールユース、指示の遵守、複数ステップのエージェントタスクなどにおいて、4倍規模のモデルと遜色ない性能を発揮したという。

 LFM2.5-2.6Bの総パラメータ数は26億9,000万(2.69B)、層数は30層、学習に用いたトークン数は約34兆、語彙数は128,000、コンテキスト長は131,072トークン。日本語も対応言語に含まれている。

ユーザーがよく使うエージェントハーネス内でトレーニングを行なった

 モデルは、ネイティブ形式のオリジナルモデルチェックポイントのほか、llama.cppや互換ツール向けの量子化フォーマットであるGGUF、クロスプラットフォームのためのONNXランタイム、Apple Silicon向けのMLXフォーマットも提供。また、ファインチューニング用の事前学習済みベースモデル「LFM2.5-2.6B-Base」と、エージェントワークロード向けに事後学習済みのLFM2.5-2.6Bの2種類が用意される。

 4倍規模のモデルに匹敵する性能を持ちながら、小型のため高速かつ効率的な推論が可能なのも特徴。CPUによる推論では、AppleのM5 Maxで220tok/s、AMDのRyzen AI Max+ 395で113tok/sのデコード速度を達成したほか、スマートフォンでも30tok/sを達成し、実用的なエージェント実行が可能だった。

CPUでの推論速度比較

 またGPUを用いた場合は、同規模モデルの中で最速を記録し、NVIDIAのH100 GPUを利用した場合、高い同時実行数において約15,000tok/sの速度を達成。1日あたり約13億トークンを出力できるとしている。

GPU(NVIDIA H100)を用いた場合のデコード速度

 なお、LFM2.5-2.6Bは確かに小型で賢いモデルではあるのだが、比較対象となっているGemma 4やQwen3.5はマルチモーダル対応であるため、その点を差し引いて考慮する必要がある。