Radeon上でStable Diffusionの性能を9.9倍にする最適化手法。AMD公開

　AMDは18日に、Radeon RX 7900 XTX上で動作するStable Diffusionを最適化し、最大9.9倍高速化できる手法をブログで公開した。

　最適化にはMicrosoft Oliveと呼ばれるPythonツールを利用する。OliveはPyTorchの基本モデルをONNXに変換するツールであり、この段階でトランスフォーマグラフの最適化や、GPUメモリフットプリント削減のための量子化(ほとんどのレイヤーをFP32からFP16に変換)するなどの処理で、モデル処理を大幅に簡素化して高速化を実現するという。

　利用には、Windows用のGit、AnacondaまたはMiniconda、そしてAdrenaline Edition 23.7.2以降のドライバが必要。