NVIDIA GPUが早速「Gemma」向けに最適化。Chat with RTXでも対応へ

　Googleは21日、AI(正確には大規模言語モデル:LLM)「Gemini」のオープンモデルにあたる「Gemma」を公開したが、NVIDIAは同日付けでGPUをGemmaに向け最適化を行なったと発表した。

　具体的には、LLMをNVIDIA GPU上で最適化するためのオープンソースライブラリ「TensorRT-LLM」に対応させ、Gemmaの実行速度を向上させられるという。これにより開発者は、1億以上のNVIDIA RTX GPUインストールベースを対象としたアプリを開発できるとしている。

　また、クラウド上のNVIDIA GPUでもGemmaを実行できるとしており、「H100 Tensor コア GPU」をベースとしたGoogle CloudのA3インスタンスや、まもなく提供開始される「H200 Tensor コア GPU」でも利用できるとしている。

　加えて、一般向けに提供しているローカルPC上のチャットAIデモ「Chat with RTX」でもまもなくGemmaをサポートするとしている。