福田昭のセミコン業界最前線
地球温暖化対策としての半導体とコンピューティング
2023年7月19日 10:21
地球温暖化がもたらす気候変動
地球温暖化対策、すなわち温室効果ガス(GHG:Greenhouse Gas)の排出削減は、人類社会にとって最も重要な課題となりつつある。地球全体の平均気温が上昇することに付随するとみられる気候変動が、日々の生活を脅かし始めた。
最近まで指摘されてきたのは、極地における氷河や氷雪、海氷などの減少という、人類の生活とはあまり関わりのなさそうな事実だ。しかし現在では、過去の観測記録を更新するような、いくつもの異常な気象が人類社会を襲っている。異常な高温と低温、突発的かつ極端な豪雨による洪水、異常な大雪、降水量の極端な減少による干ばつ、海面水位の上昇(海抜の低い地域の水没)といった事態が、世界各地で珍しい現象ではなくなりつつある。
温室効果ガスの排出削減は、半導体産業とその応用分野にとっても看過できないどころか、最大の課題となりそうだ。そのことが、今年(2023年)の5月16日～17日にベルギーのアントワープで開催されたイベント「ITF(imec Technology Forum) World」で明らかになった。イベントの主宰者で世界最大の半導体研究機関であるimecのほか、招待講演に登壇した半導体メーカーのAMDやInfineon Technologies、Analog Devices、露光装置メーカーのASMLなどが、地球温暖化対策と半導体応用分野および半導体産業との関わりにふれた。
産業革命以降に地球の平均気温は1.1℃上昇
人類社会が温室効果ガスを大量に排出する時代の始まりは、第一次産業革命(1770年代～1840年代とされる。諸説あり)である。第二次産業革命(1870年代から1910年代とされる。諸説あり)を経てGHGの排出量は増加の一途をたどった。
第一産業革命の最盛期である1820年と、200年後の2020年(ほぼ現在)を比べると、全世界のGDP(総生産)は100倍、エネルギー消費は27倍、温室効果ガス排出量(炭酸ガス換算重量)は686倍に増加した。
そして地球の平均気温は、1880年との比較で1.1℃上昇した。200年間よりも短い、140年間での気温上昇である。今後も平均気温の上昇は続く。現時点では2050年における上昇値は1.9℃～2.7℃に達すると予測されている。言い換えると、気候変動がさらに激化するおそれが高い。
そこで2050年における上昇値を1.5℃に抑えること、そのために温室効果ガスの排出量を大きく削減することが求められている。具体な数値目標としては2050年に温室効果ガスの排出量と吸収量を等しくする、いわゆる「ネットゼロ」を実現する。「2050年にネットゼロ」のシナリオでは、気温上昇は2040年頃に1.6℃でピークとなり、2100年ころには1.4℃まで低下する。2023年のGHG排出量は年間で34Gtが予測されており、2050年のネットゼロ実現は容易ではない。
より緩やかな排出削減の予測としては、現時点の削減政策に準拠した場合に2050年のGHGガス排出量が26Gtになるというシナリオがある。この場合、2100年における気温上昇は2.3℃～2.5℃となる。また新たな施策によって2050年のGHGガス排出量を前出の予測から57%削減するというシナリオもある。この場合、2100年における気温上昇は1.7℃にとどまる。
ICT産業とインターネット産業が温室効果ガスの排出量を削減
半導体産業とその応用分野が温室効果ガスに与える影響としては、排出量(カーボンフットプリント)と削減量(カーボンハンドプリント)に分けて考える必要がある。一般的には、半導体の応用分野では温室効果ガスの排出量が削減される。カーボンハンドプリントが生じる。
ICT企業が持続可能な社会の形成に向けて2001年に組織した団体「GeSI (Global e-Sustainability Initiative)」が2019年に発行したレポート「SMARTer2030」によると、ICT産業が年間に排出する温室効果ガスの重量は2030年に2020年と比べて10万tの増加にとどまるのに対し、2030年における排出削減量は最小でも70万t、最大では360万tに達するという。削減効果が増加分の10倍～36倍になり、トータルでは温室効果ガスの排出削減に貢献する。
またスウェーデンのHuaweiに所属する研究者Anders Andrae氏の報告によると、インターネット産業が年間に排出する温室効果ガスの重量は2030年に2020年と比べて60万t増加するのに対し、2030年における排出削減量は最小でも630万t、最大では1,130万tに達すると予測する。削減効果が増加分の10倍～26倍になる。ICT産業と同様に、トータルでは温室効果ガスの排出を大きく削減する効果がある。
高性能コンピューティングの電力消費が非現実的な規模に拡大
とはいうものの、半導体の応用分野ではかなり厳しい予測もある。特に問題となりそうなのが、マシンラーニング分野における大規模データを利用したディープラーニングハードウェアだ。大規模言語モデル(LLM)の急激な進化を促したパラメータの急増は、学習の実行時に必要とする電力量の急速な増加をもたらした。たとえばGPT-3では、1,500億前後のパラメータを使った学習に5万5,000kW/h(550MWhr)の電力量を要するとされる。
科学技術計算分野では、電力効率の高いスーパーコンピュータのランキングである「Green500」を見ると、電力当たりの処理性能(FLOPS)が継続して向上してきた。にもかかわらず、スーパーコンピュータのシステムが消費する電力は指数関数的な勢いで増加している。最新のGreen500で上位となったスーパーコンピュータの消費電力は21MW(2万1,000kW)に達する。
問題なのはここからで、過去10年ほどでスーパーコンピュータ(それも電力効率が高いシステム)の消費電力は10倍を超えて増加した。このトレンドを将来にそのまま当てはめると、2050年にはスーパーコンピュータの消費電力が500MW(50万kW)になってしまう。これはスーパーコンピュータのシステムごとに発電所(マージンを考慮すると100万kW級の発電所)が必要となることを意味する。この予測は、あまり現実的ではない。
またコンピューティング全体の消費電力量が指数関数的に伸びているため、このままだと西暦2040年頃には世界全体の発電量(線形的にしか伸びない)を上回ってしまうとの予測もある。現実には電力効率をさらに高めることで、電力消費の伸びを緩やかに抑えることになる。
マシンラーニングに適したデータ形式によって必要なメモリ容量を削減
コンピューティングの電力効率を高める工夫の基本は、電力の無駄をなくすことだ。過去から叫ばれてきた大きな無駄は「メモリアクセスに伴う電力消費」であり、無駄を大幅に減らすブレークスルーは未だに見つかっていない。
メモリアクセスによる電力消費は、2つの大きな問題を抱える。1つはアクセスするデータ量が増加していることによる消費電力の増加、もう1つはCPUがデータを待っている間は演算処理が一時的に停止するという実効的な処理性能の低下である。
大規模なメニイコアプロセッサは3次キャッシュまでを同じシリコンダイに載せているのが普通だ。しかし大規模言語モデルのパラメータは1,000億(100G×データビット数)を超える。最も小さいバイナリ(1bit)形式のパラメータだとしても、メモリ容量は100Gbitすなわち12.5GBになり、現状は外付けのDRAMモジュールに格納せざるを得ない。
実際にはバイナリどころではなく、高い推論精度を得るには64bit倍精度浮動小数点数(FP64)といった大きなデータを1個のパラメータに割り当てたい。この場合は指数部(べき乗の桁数)が11bit、仮数部が52bit、符号部が1bitで構成される。ただしFP64よりも精度の低い小数点数でも、実用的には十分な推論精度を得られることが少なくない。そこで32bit単精度浮動小数点数(FP32)あるいは16bit半精度浮動小数点数(FP16)へと、より小さなフォーマットをパラメータにあてがうようになってきた。ただしFP16でもパラメータは16bitなので、1,000億のパラメータ数だとメモリ容量は1.6Tbitすなわち200GBとかなり大きい。
さらに最近では、ディープニューラルネットワークによる学習を前提とした「TF32(Tensor Floating Point 32)」や「BF16(Brain Floating Point 16)」といった独自の浮動小数点フォーマットが普及しつつある。ニューラルネットワークによる学習精度は指数(数値表現範囲あるいはダイナミックレンジ)に敏感であり、仮数(精度)には鈍感であるという性質を利用して、メモリの容量を減らしたフォーマットである。
TF32は指数部がFP32と同じ8bit、仮数部がFP16と同じ10bit、符号部が1bitの合計19bitで、FP16と同じ精度、FP32と同じダイナミックレンジを備える。BF16は指数部がFP32と同じ8bit、仮数部が7bit、符号部が1bitの合計16bitで構成する。全体としてはFP16から4bitを省略しており、必要なメモリ容量はFP16のおよそ半分になるとされる。
先進パッケージング技術との組み合わせでチップ間通信電力を削減
ディープラーニングのメモリ削減と高速化に適したデータ形式に、先進パッケージング技術を組み合わせると、消費電力をさらに減らせる。たとえばシリコンダイを3次元積層する技術を導入すると、従来型のパッケージとプリント配線を介したチップ間のデータ通信に比べ、通信電力を50分の1に削減できるとする。
半導体製造が排出する温室効果ガスの削減も課題に
もう1つ懸念されているのが、半導体の量産工場が排出する温室効果ガスの存在である。半導体加工技術の微細化とともに温室効果ガスの排出量が指数関数的に増加しつつあるからだ。微細化によって工程数が増えるとともに、製造装置の消費電力が拡大してきた。28nmノードから3nmノードまでの傾向を見ると、およそ10年で排出量は2倍に増加した。
2020年の時点で半導体チップ製造による温室効果ガスの年間排出量は約50Mt(5,000万t)に達するとされる。ここから排出量が指数関数的に増加していくことは許されない。再生可能エネルギーを利用しても、2020年に比べて温室効果ガスの年間排出量は増加し、2030年には約7,000万tになると推定される。2030年の時点では再生可能エネルギーの利用による推定値の3分の1、あるいは2020年に比べて半分の2,500万t前後にまで年間排出量を削減することが、半導体産業の課題となる。
そこでimecは「SSTS(Sustainable Semiconductor Technologies and Systems)プログラム」と呼ぶコンソーシアムを形成し、半導体生産によるGHG排出量を削減するための研究開発をすでに始めた。また半導体製造装置/材料メーカーの業界団体SEMIは、「SSC(Semiconductor Climate Consortium)」と呼ぶ気候変動対策のコンソーシアムを構築し、温室効果ガスの排出削減に取り組みつつある。
もはや「何もしない」というオプションは存在しない(imecの基調講演から)。半導体メーカー(ファブレスとファウンドリを含む)、半導体製造装置/材料メーカーを含めた産業界全体で温室効果ガスの削減を積極的に推進すべき状況にある。