福田昭のセミコン業界最前線

AI時代に不可欠の「HBM」。容量も速度も飛躍したが、開発がさらに加速

福田昭

2024年5月15日 09:53

国際メモリワークショップ(IMW 2024)の会場である「グランドウォーカーヒルソウルホテル(Grand Walkerhill Seoul Hotel)」の正面外観。5月12日午後に筆者が撮影

　半導体メモリ技術の研究開発に関する国際学会「国際メモリワークショップ(2024 IEEE 16th International Memory Workshop:IMW 2024)」が、韓国ソウル特別市で2024年5月12日(現地時間)に始まった。

　12日は恒例のチュートリアル(技術講座)がプレイベントとして開催された。翌13日にはメインイベントの技術講演会(テクニカルカンファレンス)がスタートした。15日の昼までキーノート講演や技術講演、ポスター発表、レセプションなどのイベントが進む予定だ。

コロナ禍による大幅縮小を経てようやく通常規模の開催が実現

　13日の技術講演会は、チェアパーソンによる恒例の開会挨拶で始まった。挨拶に立ったのは総合チェアパーソンをつとめるAntonio Arreghini氏(imec)である。

IMW 2024の開会挨拶では、最初のスライドで主要な4名のチェアパーソンが紹介された

　コロナ禍(COVID-19の世界的な大流行)によって世界全体の人流はさまざまな影響を受けた。IMWも例外ではない。2020年と2021年はバーチャル開催となり、2022年は2020年に予定していたドイツのドレスデンで現地開催が再開するとともに、バーチャル開催とのハイブリッド形式となった。しかし参加登録者のおよそ半分がバーチャルで参加した(筆者も残念ながらバーチャル参加だった)ため、ドレスデンの現地は非常に寂しいものとなった。

　2023年にバーチャルなしの現地開催が米国カリフォルニア州モントレーで復活したものの、半導体メモリの景気後退という要因もあり、前回のモントレー開催(2019年)に比べて縮小した規模でのイベントを余儀なくされた。そして今年(2024年)になり、半導体メモリの景気回復もあって通常と変わらない規模での開催がようやく実現した。

コロナ禍を経て、ようやく通常のIMWに戻ったことを示すスライド。チェアパーソンによる開会挨拶から

　2024年の投稿論文数は72件で、昨年(2023年)の59件、一昨年の43件から2年連続で大きく増加した。コロナ禍前の2019年が74件だったので、ほぼ変わらない水準に戻ったと言えよう。技術講演に採択された論文は18件である。採択率は25%とかなり低い。もっともポスター発表(15件)を含めると、採択率は44%に上昇する。

投稿論文数と採択論文数(技術講演のみ)の推移(2009年～2024年)。チェアパーソンによる開会挨拶から

投稿論文数と採択論文数(技術講演のみ)、採択率の推移(2009年～2024年)。過去の開催記録を筆者がまとめたもの

分野別のトップは前年と同じ「フラッシュ」、急増した「抵抗変化/OTS」が続く

　採択された論文(口頭発表とポスター発表の合計)の分野別割合では、「フラッシュメモリ」がもっとも多く28%を占める。昨年は30%だったのでほぼ変わらない。次いで「抵抗変化メモリとOTSセレクタ(RRAMとOTS)」が21%を占め、前年の7%から3倍に急増した。それから「強誘電体メモリ(FERRO)」の発表が18%と、昨年(15%)に続いて活発である。

　「DRAM」と「ニューロモルフィックおよびCiM」はいずれも12%を占める。DRAMは前年の11%とほぼ変わらない。「ニューロ……」は昨年には分類がなかった。一方、前年に11%を占めた「磁気メモリ(MRAM)」は6%に減少した。

発表論文(ポスター発表を含む)の分野別内訳。チェアパーソンによる開会挨拶から

IMW 2024のスポンサー(協賛企業)一覧。前年は12社だった。今年はローカルを除いても16社に増えた。前年に比べ、今年は「ゴールド」が2社から4社に、「シルバー」が8社から10社に増加した。チェアパーソンによる開会挨拶から

HBMモジュールの記憶容量は10年で36倍に急増

　以降は、IMW 2024の技術講演会初日(13日)午前に実施された3件のキーノート講演(タイトルと講演者については本コラムで既報)から、SK hynixの講演概要をご報告しよう。

　SK hynixは、超広帯域DRAMモジュール技術「HBM(High Bandwidth Memory)」の現状と将来を展望した(講演番号および論文番号1.1)。SK hynixは現在、HBMモジュールの最大手ベンダーとして知られている。

　HBMモジュールは高性能コンピューティング(HPC)、中でもAI分野でマシンラーニングのトレーニングを高速実行するために不可欠なメモリである。HBMモジュールの将来性能が、AIの将来性能に少なくない影響を与える。

　HBMモジュールの最初の世代(「HBM1」)は2014年に製品化されたので、今年で10年を数える。2024年に量産が始まった最新世代は、第5世代(「HBM3E」)である。この10年で4回の改良がほどこされたことになる。この間にDRAMダイの記憶容量は2Gbitから24Gbitへと12倍に増加し、モジュールの記憶容量は1GBから36GBへと36倍に拡大し、最大入出力帯域幅は128GB/sから1.18TB/sへと9.2倍に向上した。

HBMモジュールの最新世代「HBM3E」の外観(左)とシリコンダイ写真(右)。2024年3月19日にSK hynixが「HBM3E」の量産開始を発表したリリースから。なおシリコンダイ写真の上半分と下半分は異なるダイだとみられる

　モジュール記憶容量の急激な増大には、DRAMダイの記憶容量を拡大することだけでなく、積層するDRAMダイの枚数を増やすことが貢献している。HBM1では、DRAMダイの積層数は最大で4枚だった。最新のHBM3Eでは、DRAMダイの積層数は12枚と3倍に増えた。

次世代HBMは容量を1.5倍、帯域を1.4倍に拡大

　2026年には、次世代品である「HBM4」モジュールの製品化を予定する。現行の最新世代「HBM3E」に比べ、記憶容量は1.5倍の48GB 、最大入出力帯域幅は1.4倍の1.65TB/sに拡大する。DRAMダイの記憶容量は24Gbitと変わらない。DRAMダイの積層枚数を16枚と1.5倍に増やすことでモジュールの記憶容量を増加させる。

「HBM(High Bandwidth Memory)」モジュールの開発ロードマップ。SK hynixがIMW 2024で公表した論文(論文番号1.1)から

　一方で記憶容量当たりの消費電力は低減させる。「HBM3E」に比べて70%ほどになるという。消費電力低減に大きく寄与するのは、入出力ピン数(バス幅)の倍増だ。「HBM3E」までは1,024ピンだったのを「HBM4」では2,048ピンと2倍に増やす。入出力帯域幅は1.5倍なので、原理的には入出力回路の動作周波数が0.75倍と低くなる。このため動作時の消費電力が下がる。

　さらに、電源電圧を「HBM3E」の内部回路1.1V、入出力回路1.1Vから、「HBM4」では内部回路1.05V、入出力回路0.8Vに降ろす。このことも記憶容量当たりの消費電力の削減に寄与する。HBM3Eまでのモジュールでは最下層のロジックチップ(入出力回路を含む)が消費電力全体の40%前後を占めていた。電源電圧を1.1Vから0.8Vに降圧することで、ロジックチップの消費電力はおよそ半分と大幅に下がる。モジュール全体の消費電力では約20%の低下に相当するという。

HBMモジュールの熱抵抗を一気に下げたMR-MUF技術

　HBM系列のモジュールにとって重要な課題に、放熱がある。HBMの世代ごとに放熱構造を改良してきた。「HBM2」世代の熱抵抗を「1.0」とすると、「HBM3E」世代の熱抵抗は「0.5」と半分に下がった。

　熱抵抗の削減に大きく寄与したのが、SK hynixの独自開発によるモジュール封止技術「MR-MUF(Mass Reflow-Molded Underfill)」だ。DRAMダイ間のバンプ接続に一括リフローを採用するとともに、熱抵抗の低い樹脂のモールドによってDRAMダイ間のすき間充填と全体封止を一気に実行する。MR-MUF技術を最初に導入した「HBM2E」世代では、前世代(バンプの熱圧着と非導電フィルムによるすき間充填)に比べて熱抵抗を一気に35%も減らしている。

HBMの世代と熱抵抗およびモジュール封止技術の推移。「HBM2」世代の熱抵抗を「1.0」と規定した相対値。なお「HBM4」では「ハイブリッド接合」を採用すると示されているが、実際にはハイブリッド接合ではなく、MR-MUF技術の改良版を採用するもようだ。SK hynixがIMW 2024で公表した論文(論文番号1.1)から

　MR-MUF技術は「HBM3」でバンプ領域(バンプは放熱を兼ねる)の最大化、「HBM3E」でモールド樹脂の変更などを加えることで、熱抵抗をさらに下げてきた。なお次世代の「HBM4」は当初計画では「ハイブリッド接合」をDRAMダイ間の接続に採用する予定だったが、実際にはMR-MUF技術を採用するもようだ。数多くのシリコンダイを積層接続する技術に、ハイブリッド接合を適用することの困難さがうかがえる。