Samsung、容量36GBの「HBM3E」をサンプル出荷

　Samsung Electronicsは27日(韓国時間)、12層スタック構造により史上最高となる1,280GB/sの転送速度と、業界最大容量となる36GBを達成したメモリ「HBM3E 12H」を発表し、サンプル出荷開始したと発表した。量産は2024年前半を予定している。

　Micronは26日(米国時間)に8層スタックにより24GBを実現した「HBM3E 8H」の量産を発表したが、これにぶつける形でさらなる大容量モデルを発表した形。ただしMicronは既にNVIDIAの「GH200 Tensor コア GPU」での採用が決定しているほか、リリースの中で3月中に12層スタックで36GBを実現したモデルをサンプル出荷する予定となっており、技術的にはほぼ拮抗する。

　SamsungのHBM3E 12Hは、アドバンスド熱圧縮非導電性フィルム(TC NCF)を採用しており、8層製品と同じ仕様で現在あるHBMパッケージ要件を満たすことができる。ダイの薄型化によりチップの反りが問題となる中、今回の技術は解決の糸口になる。今回NCF材料を薄くするとともに、層の間の隙間を排除し、チップ間のギャップを業界最小である7μmを達成。これにより8層製品と比較して垂直方向の密度を20%以上向上させることができたという。

　また、この技術によりチップ間にさまざまなサイズのバンプを使用することができるようになり、チップをボンディングするプロセスにおいて、信号伝達用には小さなバンプ、放熱が必要な場所には大きなバンプを配置することで、熱特性を向上させることができたとしている。

　AIアプリケーションが急速に成長する中、HBM3E 12Hはより多くのメモリを必要とする将来のシステムに最適と期待されており、結果的に顧客はリソースの柔軟な管理、データセンターの総所有コストの削減を実現。HBM3E 8Hと比較した場合、AIトレーニングの平均速度が34%向上するほか、推論においてはサービスの同時ユーザー数が11.5倍以上に拡大できると試算している。