イベントレポート
AMD、Ryzen AIによる推論を実機デモ。生成AIアプリを容易に構築できるSDKも
2023年5月31日 13:15
AMDはCOMPUTEX 2023が開催されている、南港第1展示ホールに隣接している同社の台湾オフィスで記者説明会を開催し、同社が1月のCESで公開した、同社プロセッサに統合されるNPU(Neural Processing Unit)となる「Ryzen AI」が実際に動作する様子をデモした。Ryzen AIは、開発コードネーム「Phoenix」で知られるRyzen 7040シリーズに統合されている。
AMDは、先週Microsoftが開催したBuildで、このRyzen AIを利用したAI推論処理を行なうための開発キット「Ryzen AI software」を、Windowsアプリケーションを開発する開発者向けに早期提供を開始したことを明らかにしており、Microsoftが推進するWindows環境におけるNPU活用ソフトウェアフレームワークとなる「ONNX Runtime」などに対応して、Windows PC上で、SoCだけで生成AIやLLMなどの推論処理が可能にする計画だ。
Microsoftが公開しているAIフレームワーク「ONNX runtime」に対応したRyzen AI softwareの早期提供を開始
AMD 執行役員 兼 クライアントチャネルビジネス事業部 事業部長 デビッド・マカフィー氏は「Microsoftが先週開催したBuildにおいて、我々はRyzen AIを活用するためのソフトウェア開発キットとなるRyzen AI softwareを発表し、開発者向けの早期提供を開始した。これにより、開発者がRyzen AIに対応したAIアプリケーションを開発することを支援していく」と説明した。
マカフィー氏によれば、その一部としてAMDはMicrosoftが「ONNX runtime」(オニックスランタイム)のサポートを行ない、エッジ/クラウドにそれぞれあるCPU/GPU/NPUをシームレスにAI処理に使えるようにする。
AMDはEP(Execution Provider)と呼ばれるONIX runtimeやDirectMLなどでCPU/GPU/NPUをサポートするプラグインを提供し、あまりハードウェアに詳しくないようなソフトウェア開発者であっても、容易にONIXやDirectMLに対応したアプリケーションを構築できるようにする。イメージとしては、ゲーム開発者がGPUに詳しくなくても、Direct3Dに関して理解していればゲーム・アプリケーションを作れるのと同じような形だ。
今後はアプリ開発者が生成AIのアプリをWindows上で動かしたい場合には、ONNX runtimeやDirectMLに向けて作れば、AMDのRyzen AIだけでなく、IntelのMeteor Lakeに搭載されているNPU(Intel的な言い方であればVPU)、QualcommのSnapdragon AI Engine、さらにはNVIDIAのGPUなどを効率よく利用して高性能な生成AIアプリを構築することが可能になる。
Ryzen AIの物理的な設計としては、AMDが買収したXillinx(現在はAMDのAECG＝Adaptive and Embedded Computing Group)由来のFPGAになっており、ファームウェアなどをアップグレードすることで機能を追加可能なことが特徴。現状ではRyzen AIはPhoenixで知られるRyzen 7040シリーズ(HS/U)にだけ搭載されている。従来はCPUやGPUでやっていた、AI推論処理をRyzen AIにオフロードすることで、CPUやGPUの負荷を下げたり、生成AIのような重い処理であれば、CPU、GPUを一緒に使って処理することで高速に処理できる。
ほかの製品への展開に関してマカフィー氏は「将来の製品計画に関しては現時点ではお話しできないが、もちろんこの1製品で終わりということはない」と述べており、将来ほかの製品にもRyzen AIが搭載される可能性を示唆した。
たとえばデスクトップPC向けのRyzenに、XillinxのFPGAをチップレットとして統合し、それをRyzen AIとして使うということも容易に想像できるし、来年用のモバイル向けではミッドレンジやローエンドなどでもCPUに統合されるなどの可能性があると言える。
Ryzen 7040(Phoenix)を搭載した実機で、Ryzen AIの推論処理をデモ
今回AMDはそうしたRyzen AIを、実機上(Ryzen 7040シリーズ/HS)でAI推論を行なっている様子を公開した。具体的には「たASUS ROG Zephyrus G14」、「Razer Blade 14」の2つの製品上で、Ryzen AIを利用した画像認識(物体認識と顔認識)が高速に処理できる様子だ。
アプリケーションにはテスト用として、ONNXの仕組みを利用してAzure上のCPU/GPUなどを利用することも可能になっていたが、今回のデモではそれは動作していなかった(ネットワークがつながっていないため)。
