3,584基のNVIDIA H100 GPUと384基のGaudi2でGPT-3 175Bを比較。H100は10.9分で処理が終わったが、Gaudi2は312分(約5.2時間)掛かる(出典 : NVIDIA MLPerf Training v3.0 Results、NVIDIA)