従来の4分の1で賢い！AIエージェントに最適なLLM「Inkling-Small」無償公開

　ローカルで動くAIエージェント用のLLMを探しているユーザーにとって新たな選択肢が1つ生まれた。Thinking Machinesは7月30日(米国時間)、同社の上位LLM「Inkling」と同等の性能を約4分の1のサイズで実現したオープンウェイトモデル「Inkling-Small」を公開した。Hugging Faceより無償でダウンロード可能で、ライセンスはApache 2.0。

　Inkling-Smallは、テキスト、画像、音声の入力に対応し、テキストでの出力が可能なマルチモーダルモデル。英語をはじめとする複数言語、そして複数のプログラミング言語での利用を想定しており、AIエージェントシステム、ツールの使用、コーディングアシスタント、チャットボット、検索拡張型生成システムに向く。

　モデルはMoE(Mixture-of-Experts)となっており、総パラメータ数は2,760億(276B)、このうちアクティブのパラメータ数は120億(12B)。各トークンは256個のエキスパートのうち6個にルーティングされ、すべてのトークンでアクティブな2個の共有エキスパートを有する。

　同社が公開しているベンチマークでは、競合の「Qwen3.5 397B-A17B」や「Minimax M2.7」、「DeepSeek V4 Flash」、「Nemotron 3 Ultra」と比肩もしくは上回る性能を示し、推論およびエージェントタスクにおいては自社の4倍規模となるInklingと同等もしくは上回るスコアを記録した。

トークン効率の高さも特徴

　性能を改善できた理由は単純だ。事前トレーニングのデータミックスと機械学習レシピに変更を加え、トレーニングプロセスを見直したほか、以前のInkling-Smallプレビューをベースに、Inklingを教師としてオンポリシー蒸留を部分的に使用して事後トレーニング。エージェントコーディング強化学習を2週間かけてスケーリングし続けたことで達成したとしている。