ニュース
NVIDIA H100搭載の生成AI向けクラウドサービス「高火力 PHY」
2024年1月25日 11:17
さくらインターネット株式会社は、生成AI向けにNVIDIAの「H100 Tensor コア GPU」を搭載したクラウドサービスの第1弾として、ベアメタルの「高火力 PHY(ファイ)」を31日より提供開始する。月額費用は304万6,120円で最低利用期間は2カ月。1年コミットは274万1,508円、3年コミットは243万6,896円となる。
同社は、AIに関わるコンピューティングリソースの安定供給確保は、日本のデジタル社会を発展させるために必要不可欠であると考え、高火力の開発を決定。3年間で130億円規模の投資を行なう予定で、サービス提供開始後も引き続き需要に応えられるようサービス拡大をする予定。
高火力 PHYは、H100をサーバー1台あたり8基搭載し、サーバー間の通信を200GbE×4本の回線で行なうことが可能であるなど、大規模言語モデルといった生成AIを中心の利用を想定。また、再生可能エネルギー電源100%の石狩データセンターでの提供を予定しており、CO2排出量ゼロを実現するという。
GPU以外のサーバーの仕様は、CPUがXeon Platinum 8480+×2(112コア、1CPUあたり56コア)、メモリが2TB、ストレージはOS用が400GB×2(RAID 1構成)、非OS用が7.68TB×4、グローバル回線が100Mbps、ローカル回線が4GbE(2Gbps×2)、ローカル回線 インターコネクトが200GbE×4。電源は冗長ありで、OSはUbuntu Server 22.04 LTS。
