Micron、帯域1.2TB/sで容量24GBの「HBM3 Gen2」。LLMに最適(7/7)

HBM3 Gen2を採用することによりトレーニング時間が30%短縮され、推論においては1日あたりのクエリ処理数が50%増加させられる