Celebras、4兆トランジスタ搭載のAIチップ「WSE-3」

WSE-3(Wafer Scale Engine-3)

　Celebras Systemsは11日、4兆個のトランジスタを搭載した世界最速を謳うAIチップ「WSE-3(Wafer Scale Engine-3)」を発表した。AIスーパーコンピュータのCS-3において、2,048ノードで最大256EFLOPT(エクサフロップス)を実現できるとする。

　WSE-3は、従来のWSE-2と同等の消費電力と価格で、2倍の性能を実現できるというAIチップ。5nm TSMCプロセスで製造され、トランジスタ数は4兆個、AIコアは90万基、33GBのオンチップSRAMを搭載し、ピークAI性能は125PFLOSを発揮できるという。

　WSE-3を使ったCS-3は、最大1.2PBの巨大なメモリシステムを搭載しており、24兆パラメータのモデルを単一論理メモリ空間に格納でき、GPT-4やGeminiの10倍の大きさのモデルをトレーニングできるよう設計。エンタープライズおよびハイパースケールのニーズに対応し、2,048ノードのフルスケールシステムでは、Llama 70Bをゼロから1日間でトレーニングできる性能を持つという。