Cerebras、85万コアのウェハサイズプロセッサ「WSE-2」

WSE-2

　Cerebrasは20日(現地時間)、ウェハ面積のほとんどを1つのディープラーニング用プロセッサとして動作させる第2世代ウェハスケールプロセッサ「WSE-2」(Wafer Scale Engine 2)を発表した。

　同社は2019年8月に初代のWSEを発表し、16nmプロセスで1.2兆トランジスタを集積した超巨大なプロセッサで業界の度肝を抜いたが、WSE-2では最新のTSMC 7nmプロセスを採用することで、2倍以上となる2.6兆トランジスタを、4万6,225平方mmのダイに集積した。

　このプロセッサは幅1mmのなかに3個のAI処理に特化したプロセッサを搭載し、全体として85万コアを内蔵。2Dのオンチップメッシュネットワークで結ばれ、インターコネクトの総バス幅は220Pbpsにおよぶ。これは最新GPUの4万5,000倍に匹敵するといい、1ms以下の超低遅延でリアルタイムのAIワークロードにも耐えうるとしている。

　また、オンチップで40GBにもおよぶSRAMを統合し、こちらも20PB/sという帯域を提供。これは最新GPUの1,000倍の容量、9,800倍の帯域に相当するとしている。

NVIDIA最大のGPU(右)との比較

　今回Cerebrasはダイのみならず、WSE-2を組み込んだ15U(ラックマウント)のシステムを用意。100Gigabit Ethernetを12基備え、外部と通信。電源には12基の電源ユニット(9+3リダンダント)を用いて、WSE-2に対し2万3,000Wの電力を供給する。冷却には水冷を用いており、ケース下部に設けられたラジエータで放熱する。ファンは4基で、ホットスワップも可能。

CS-2

　ソフトウェアとしては、最適化したCerabras Graph Compilerのほか、高性能カーネルやカーネル開発APIを実現するライブラリ、デバッグやプロファイリングといった開発ツール、クラスタリングソフトウェアなどを提供する。