ニュース

NVIDIA、高精度検索できる無償のRAG向けAIモデル「Nemotron 3 Embed」公開

検索精度のベンチマーク結果

 NVIDIAは7月17日、AIエージェントやRAG向けの組み込みAIモデル「Nemotron 3 Embed」を公開した。高性能モデル、高効率モデル、Blackwell最適化モデルの3タイプを用意しており、いずれもオープンウェイトで商用利用が可能。Hugging FaceやNVIDIA NIMなどを通じて、無償提供している。

 Nemotron 3 Embedは、エンタープライズ規模のRAG(Retrieval-Augmented Generation、検索拡張生成)や、エージェント検索、コード検索などの用途に向けて設計された埋め込みモデル。32Kのコンテキストウィンドウを持ち、高精度の検索を実現したことで、AIエージェントによる再検索や不必要な推論の発生を抑え、トークン消費量を大幅に削減できるとしている。

 オープンウェイトで、ファインチューニングや蒸留のレシピも公開しており、独自のカスタマイズをしやすい点も特徴。使用用途や環境に応じて、3種類のモデルを用意している。

Nemotron-3-Embed-8B-BF16

 検索精度を高めた80億パラメータの最上位モデル。高いリスクをともなう業務など、精度が必要とされるエンタープライズ用途に好適とする。「Ministral-3-8B-Instruct-2512」をベースに構築された。

Nemotron-3-Embed-1B-BF16

 11.4億パラメータの高効率モデル。レイテンシやコストを重視する環境に好適とする。「Ministral-3-3B-Instruct-2512」をベースとした親モデルを蒸留して構築された。

Nemotron-3-Embed-1B-NVFP4

 高効率モデルのNemotron-3-Embed-1B-BF16を、BlackwellアーキテクチャGPU向けに最適化したモデル。NVFP4の採用により、高効率モデルと同等の検索精度を維持しつつ、メモリ使用量の削減や最大2倍のスループット向上を実現する。

検索精度とトークン消費量を示した図
検索精度とスループットを示した図