ニュース

Qualcomm、HBMの6倍の電力効率を誇る新メモリ技術「HBC」

HBC

 Qualcommは6月24日(米国時間)、データセンター向けの新メモリ技術「High Bandwidth Compute(HBC)」を発表した。HBCの第1世代を搭載する推論アクセラレータ「Dragonfly AI250」は、2027年半ばにサンプル出荷を予定している。

 HBCは、3D積層シリコン技術を用いてコンピュートと高帯域幅メモリを結合した、専用設計のニアメモリコンピューティングアーキテクチャで、エージェンティックAIの推論ワークロードなどで生じる、データ移動の根本的なボトルネックを解消するために開発された。

 HBCは従来のHigh Bandwidth Memory(HBM)と比較して、より低いTCOと高いエネルギー効率を実現。公式仕様の比較では、カードレベルでのワット当たりの帯域幅がHBMの6倍に達する。さらに、ラックレベルでのワット当たりの容量においては、SRAMの200倍を実現。連続的な推論処理や高いメモリ帯域幅、リアルタイムの応答性が求められるエージェンティックAIの効率的なスケーリングが可能になる。

 第1世代となる「HBC Gen 1」を採用する推論アクセラレータのAI250では、LPDDR5Xを採用した従来モデルの「Dragonfly AI200」と比較して18倍となる、カード当たり133TB/sの業界トップクラスの実効メモリ帯域幅を実現する。

 また、第2世代となる「HBC Gen 2」を統合した次世代の推論アクセラレータ「Dragonfly AI300」もあわせて発表された。AI300は、AI200と比較して54倍となる飛躍的なメモリ帯域幅の向上を実現し、既存のGPUベースのアーキテクチャと比較して、カード1枚のワット当たりのメモリ帯域幅に基づくワット当たり性能がが4~8倍向上する見込みだという。空冷および直接液冷に対応し、サンプル出荷は2028年を予定している。

Dragonfly AI300

 さらに、エージェンティックAIや汎用ワークロード向けのデータセンター向けCPU「Dragonfly C1000」を公開した。

 C1000はカスタム設計の「Qualcomm Oryon」コアを採用し、5GHz以上の動作クロックや250基以上のコアを備えるマルチチップレットアーキテクチャを採用。2TB/sを超える転送速度に達するPCIe 7.0や、CXL技術などもサポートする。商用提供は2028年を予定している。

Dragonfly C1000