Micron、世界初の256GB LPDRAM SOCAMM2をサンプル出荷開始

　Micron Technologyは、AIデータセンター用サーバー向け製品である256GB LPDRAM SOCAMM2モジュールのサンプル出荷を開始した。

　256GB SOCAMM2は、業界初となるモノリシック32Gb LPDDR5Xダイを採用するメモリモジュール。従来の192GB SOCAMM2と比較してモジュールあたりの容量が1.33倍に拡大し、8チャネルのサーバーCPUあたりで2TBのLPDRAMを搭載可能になる。また同容量の標準的なDDR5 RDIMMと比較して、消費電力とフットプリントをそれぞれ3分の1に削減している。

　さらに、大きなコンテキスト長でのLLM推論において、最初のトークン生成までの時間(TTFT)を2.3倍高速化するほか、スタンドアロンCPUアプリケーションではワットあたりのパフォーマンスを3倍に向上させたという。