ニュース

OpenAI自社チップ「ハラペーニョ」、NVIDIA GB300を大幅に上回る性能に

Jalapeño(ハラペーニョ)

 OpenAIが6月に開発を発表していた独自AIチップの「Jalapeño」(ハラペーニョ)だが、今回その性能が明らかとなった。OpenAIが8月25日に発表したもので、NVIDIA GB200やGB300などを利用したシステムと比べ、電力効率が最大1.9倍、インタラクティブなワークロードの性能が最大4.1倍改善するなど、優れた性能を発揮できたとしている。

 Jalapeñoは、OpenAIが6月24日に開発を発表したAI推論向けのカスタムチップ。チップやメモリ、ネットワーク、ソフトウェアなどシステム全体が一体的にデザインされている点が特徴となっている。

 特にインタラクティブなエージェントに向けたハードウェアとして、言語モデルのワークロードでボトルネックとなりやすいデータ移動と通信遅延を最小限に抑える設計を採用。KVキャッシュをメモリ内にローカルで保持したり、巨大なネットワークドメインによってワークロード全体をシステム内に収めたりすることで、リクエスト全体を高速かつ効率的に処理できるようにした。

 開発に際しては自社のAIモデルを広く活用。設計/測定/検証といったサイクルの短縮や、演算回路の最適化に役立てることで、初期設計からテープアウトまでを9カ月間で完了できたという。また、オープンウェイトモデルの最適化や、GPT-OSSの機能ブロックの高速化といった作業でもAIを活用している。

 同社では、AIリクエストの処理プロセス全体を測定するベンチマーク「InferenceX」を使って評価を実施。NVIDIA GB200やGB300を搭載するシステムと、GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3種類のオープンモデルを利用して比較を行なった。

 その結果、kWあたりのスループットでは1.5~1.9倍の性能向上を達成。エンドツーエンドのレイテンシは1.7~3.6分の1に短縮し、インタラクティブ性の高いワークロードでは2.1~4.1倍優れた性能を発揮できたという。

GPT-OSS 120Bでのベンチマーク結果
DeepSeek R1 670Bでのベンチマーク結果
Kimi K2.5 1Tでのベンチマーク結果

 Jalapeñoは、2026年内にも同社のインフラへ導入される予定。次世代品も進んでおり、第2世代は本格的な開発を実施中で、第3世代も大枠が決まりつつあるという。なお、NVIDIAをはじめとしたパートナーのアクセラレータも今後継続して導入していく計画で、学習や推論に活用していくとしている。

 ちなみに、Jalapeño(ハラペーニョ)の名称はメキシコ原産の唐辛子の品種名と同じ。半導体カンファレンス「Hot Chips 2026」での発表によると、システムを構成するホストCPUトレイは日本のカツを意味する「Katsu」、アクセラレータトレイはインドの辛口カレーの「Vindaloo」(ヴィンダルー)、スイッチトレイはインド料理で使われるひよこ豆の「Chana」(チャナ)と命名されており、チップを含めて食べ物の名前で統一されている。