脱NVIDIAを急ぐMicrosoft、わずか9カ月で次世代AIチップ「Maia 300」

Maia 300(写真提供: Microsoft)

　Microsoft 365やAzureのAI推論を担う主力の演算装置が、NVIDIA製GPUから自社設計のチップへ切り替わる。Microsoftは10月12日、その中核となるAzure向けAIアクセラレータ「Maia」シリーズの最新製品「Maia 300」を発表した。2027年から同社のデータセンターなどに順次導入されるという。

　MicrosoftはMaiaの最新製品として今年(2026年)の1月に「Maia 200」の投入を発表しており、そこから約9カ月で次の世代が登場した。Maia 300は、TSMC 2nm(N2P)で製造されるコンピュートダイとメモリコントローラダイやI/Oダイなどから構成されるチップレット構造、288GBのHBM4メモリ(18TB/s)、400GbEが32ポートなどに強化されており、Maia 200に比べて2倍の密度となる1ラックあたり96基までスケールアップできるようになる。

クラウドサービス事業者にとって喫緊の課題となっているコスト削減

AI向けGPUとしての代表的な製品になるNVIDIAのRubin、すでにSupermicroは9月にVera Rubin NVL72の出荷開始を発表している

　AIの学習や推論が、NVIDIAのGPU上で演算されていることは既知の通りだが、それがNVIDIAに空前の利益をもたらしていることもよく知られている。逆にいえば、AIソリューションを提供する企業(AIモデル開発、推論環境を提供するクラウドサービス事業者)には、NVIDIA GPUを導入するコストが重くのしかかっており、いかに演算をGPU以外で効率よく行なうかが課題になっている。

Google CloudのTPU 8iとTPU 8t

　そうした中で、クラウドサービス事業者は、AIアクセラレータと呼ばれるカスタムシリコン(事業会社が自社で設計し、それをTSMCなどのファウンドリで製造した自社向けチップのこと)に取り組んでいる。Google Cloudは2016年からTPU(Tensor Processing Unit)を導入し、今年4月に開催されたGoogle Cloud Nextではその第8世代となるTPU 8t(主に学習用)、TPU 8i(主に推論用)を発表している。

AWSのTrainium3

　AWS(Amazon Web Services)も同様で、TrainiumシリーズというAIアクセラレータを投入しており、最新製品は「Trainium3」で、昨年12月のre:Invent 2025で正式に発表され、すでに同社のクラウドサービスなどで活用されている。

　AWSのAIアクセラレータは「Inferentia」の名称で2019年に発表され、その後学習用のTrainiumが投入された。学習用のTrainium、推論用のInferentiaと名称は違っていても基本的なアーキテクチャは同様で、今はTrainiumが学習、推論両方向けと位置付けられている。

MicrosoftのMaia 100

　そうした競合の動向に比べると、Microsoftのカスタムシリコンは、やや遅れて最初の製品が投入されている。AIアクセラレータは「Maia」のブランド名を冠しており、2023年11月に開催された同社の年次イベント「Ignite」で「Maia 100」という最初の製品が発表された。

MicrosoftのMaia 200(写真提供: Microsoft)

　第2世代となったのが、今年の1月に発表された「Maia 200」で、電力効率やコスト効率を重視した設計になっており、特に推論時の電力効率の改善により、ランニングコストを削減する。

　そして、今回発表されたのが第3世代のMaia 300となる。Maia 200から約9カ月で新しいシリコンが発表されたことになる。もっとも、Microsoftは、実際の投入は2027年の予定だと説明している。いずれにしても1年程度で新製品が出てくると考えていいだろう。

　Microsoftが投入を急ぐ背景としては、フロンティアAIモデルの急速な普及により、AI推論時のトークン消費量が爆増しており、それを処理する推論用の演算装置への需要が高まっていることがある。それに併せて演算装置にかけるコストが増大することで、トークンを処理するコストが増大するという悪循環が発生している。

　そのため、クラウドサービス事業者は、フロンティアAIモデルのサービスを、従来のUSL(User Subscription License)と呼ばれる1ユーザーあたりの月額/年額の固定料金制から、UBB(Usage-Based Billing)と呼ばれる、ユーザーが使っただけの料金を支払う従量料金制へと変更している。

　Microsoftも、Microsoft 365などに関してはUSL(固定料金)だったが、フロンティアAIモデルを利用する「Cowork」や「Autopilot」(従来のScout)などに関してはUBB(従量制料金)へと変更を進めている。ただし、顧客からは戸惑いの声が上がっているのが現状といえる。

　クラウドサービス事業者にはAI推論時のコストを下げる必要があり、そのためカスタムシリコンに積極的に取り組んでいるわけだ。これが、Microsoftが今回のように短期間で次世代製品を発表した背景だと考えられる。

GPUに比べて1メガワットあたりに処理できるトークン数を40%増加

Microsoft Maia 300(写真提供: Microsoft)

　今回Microsoftが発表したMaia 300は、新しく複数ダイによるチップレット構造を採用している。Maia 200までは、パッケージ上に混載されるHBMを除くと、シングルチップ構成になっていた。それに対してMaia 300では、コンピュートダイ、4つのメモリコントローラダイ、2つのIOダイ、8つの積層HBMなどが1つのパッケージ上に混載されているかたちになる。このうち、メインの演算器となるコンピュートダイはTSMCのN2Pという最先端プロセスノードで製造される。

　メモリも強化されている。Maia 200ではHBM3eで216GBの容量だったが、Maia 300ではHBM4で288GBになっている。また、メモリ帯域もMaia 200の7TB/sから、Maia 300では18TB/sと倍以上に引き上げられている。こうした強化により、MXFP4利用時のスループットはMaia 200の10.1POPSから13.8POPSに、FP8利用時のスループットはMaia 200の5.1POPSから6.9POPSに引き上げられている。

　Maiaシリーズでは400GbitのEthernetを利用してスケールアップが実現されている。Maia 200では28ポートの400GbEをサポートしていたが、Maia 300では32ポートに増やされている。

Maia 300のブレード、4つのMaia 300が搭載されている(写真提供: Microsoft)

Maia 300のラック、1ラックで最大96基のMaia 300を格納できる(写真提供: Microsoft)

　Maia 200では1ラックあたり最大48基までを格納できていたが、Maia 300では1ラックあたり最大96基(1つのブレードあたり4基、24ブレード)まで格納できる。ラックあたりの消費電力は167kWと、NVIDIAのGB300 NVL72(Supermicro製品では132kW～140kW)よりやや多い程度に留まっている。

　こうした強化により、GPUなどに比べて1メガワットあたりで処理できるトークン数は40%増加するという。電力あたりのトークン数が増えるということは、費用対効果の向上を意味しており、フロンティアAIモデルの処理などを、GPUを利用した場合よりも低コストで行なうことができるようになる。また、MicrosoftはMaia 200に比べて1ラックあたりで処理できるトークン数が7倍になっていると説明している。

　さらにMaia 300では同社が「2階層スイッチ」と呼ぶ仕組みが用意されており、ラックとラックの間に2段階のスイッチを導入することで、最大で128のラックを1つのスケールアップネットワークとして利用できる。これにより、最大で12,288基までスケールアップできることになり、より大規模なポッド構成を容易に構築可能になっている。

　Microsoftによれば、Maia 300の生産開始と導入は2027年の予定で、Maia 200と同じようにAzureやMicrosoft 365などのパブリッククラウドやSaaSのAI処理などに活用される計画だ。