ニュース

従来比最大1.7倍の推論性能を謳う「NVIDIA H200 NVL」

  • 宇都宮 充

2024年11月20日 11:13

NVIDIA H200 NVL PCIe GPU

　NVIDIAは18日、Hopperアーキテクチャを採用するGPU「NVIDIA H200」を搭載したHPC向け製品「NVIDIA H200 NVL PCIe GPU」(H200 NVL)を発表した。既存のNVIDIA H100 NVLと比べ、最大1.7倍の推論性能などを実現したとする。

　空冷式のエンタープライズラック向けに設計されたPCIeカードタイプの製品で、既存のラックを使ってニーズに応じたGPU数を選択可能。独自のGPU間通信技術であるNVLinkも搭載しており、HPCや大規模言語モデルの推論、ファインチューニングなどの用途においても高い性能を提供できるという。

　NVIDIA H100 NVLと比べ、メモリの容量が1.5倍、帯域幅が1.2倍に増加し、推論性能で最大1.7倍、HPCワークロード性能で最大1.3倍を発揮できるとする。