NVIDIA、エージェントAI向け高速モデル「Nemotron 3.5 Lightning」無償公開

　エージェントAIのさらなる高速化/効率化を実現するオープンモデル「Nemotron 3.5 Lightning」が8月11日無償公開された。NVIDIAが開発するAIモデル「Nemotron」シリーズの1つで、Hugging Face、ModelScope、OpenRouterのほか、NVIDIA NIMなどを通じて提供している。

　Nemotron 3.5 Lightningは、300億パラメータを持つMoE(Mixture-of-Experts)モデルで、速度と精度を両立した点を特徴とする。現在のエージェントAIシステムでは、強力なフロンティアモデルが全体の計画を立て、小さな特化型モデルが大量のタスクを処理するといった仕組みが用いられるが、Nemotron 3.5 Lightningを特化型モデルとして活用することで、同クラスの競合モデルと比べて最大4倍高速な出力を実現し、システム全体でエージェントがタスク完了までにかかる時間を30%短縮できるとする。

1万タスクを処理した場合の精度と速度の比較

　オープンモデルであるため、組織独自のドメインデータやツール、ワークフローを用いて学習し、タスク処理の精度を高められる。加えて、コーディング向けの学習データセット「Nemotron-RL-Agentic-Terminal-Pivot」も提供する。

　データセンターやクラウド環境だけでなく、DGX SparkやJetsonといったローカル環境での動作にも対応し、プライバシーを保護しつつ展開することもできる。

NeMo Switchyardを使用時とOpus 4.8との比較

　同社ではあわせて、AIエージェント向けのモデルルーティングライブラリ「NeMo Switchyard」も公開した。オープンソースで提供されるもので、エージェントワークフローの各ステップで、プロンプトに応じて最適なAIモデルにタスクを自動的にルーティングすることで、性能や効率の向上を図ることができる。

　社内テストによれば、NeMo Switchyardを活用することで、Anthropic「Opus 4.8」単体と比べ、同等の精度を維持しつつコストを約3分の1まで抑えられたという。