NII、ツール呼び出し対応・STEM強化の「LLM-jp-4.1」公開

　国立情報学研究所 大規模言語モデル研究開発センターは、9月28日に日本語に強いオープンな大規模言語モデル「LLM-jp-4.1」シリーズを公開した。ラインアップは「llm-jp-4.1-33b-thinking」「llm-jp-4.1-32b-a3b-thinking」「llm-jp-4.1-8b-thinking」の3モデル。

　大規模言語モデル「LLM-jp-4.1」シリーズは、LLM-jp-4の事後学習を改善したモデル群。STEM分野の性能向上、ツール呼び出しへの新規対応、回答の簡潔化を実現した。

　「llm-jp-4.1-33b-thinking」は、総パラメータ33B(332億)のDense構造モデルだ。「llm-jp-4.1-32b-a3b-thinking」は総パラメータ32B-A3B(320億)のMixture of Experts(MoE)構造で、「llm-jp-4.1-8b-thinking」は総パラメータ8B(86億)のDense構造となる。

　公開モデルにはすべてApache License 2.0が適用される。教師ありファインチューニングデータと直接選好最適化データも、あわせて公開された。東京大学のmdx-MaaSを通じて、主に研究者向けにAPIとチャットサービスを試験提供する予定である。