Micron、1.2TB/s超えの帯域を実現する12層36GBのHBM3Eメモリ。AIに好適

　Micron Technologyは6日(米国時間)、1.2TB/sを超える広帯域を実現した12層36GB容量のメモリ「HBM3E 12-high」を発表した。量産しており、主要な業界パートナーへの出荷を開始している。

　現行のHBM3E 8-highより50%増加した36GB容量を備えた、AIワークロードに好適な広帯域メモリ。700億パラメータを持つ大規模言語モデルLlama 2などを単一のプロセッサで実行できるほか、メモリ容量の増加によりCPUのオフロードやGPU間の通信遅延を軽減し、処理時間を短縮できるという。

　ピンあたり9.2Gbps、合計1.2TB/sを超える広帯域を発揮し、高速なデータアクセスを可能とする。競合他社の8層24GB HBM3Eメモリより大幅に低い消費電力も実現しているという。