Windows AIの一部がGeForce RTX 30以降に対応、非Copilot+ PCでも

　Microsoftは6月9日、アプリケーション開発者向けの「Windows アプリ SDK バージョン2.2 実験版 9(2.2.2-Experimental9)」を配布開始した。これにあわせ、これまでNPUを搭載したCopilot+ PCでのみ対応していた言語モデルAPI「Phi Silica」のGPUサポートが試験的に開始されたことが明らかになった。

　言語モデルAPIは、これまで40TOPS以上のNPUを備えたCopilot+ PCでのみ動作していたが、今回GPUをサポートしたことにより、より広範なWindows 11デバイスに対応できるようになった。

　利用には、6GB以上のVRAMを備えたGeForce RTX 30シリーズ以降のGPUに加えて、Windows上で開発者モードを有効にし、Windows Insider Experimental Channelビルド(26300.8553以降)を導入している必要がある。モデルはCopilot+ PCとは異なりプリインストールされておらず、オンデマンドでEnsureReadyAsync経由でダウンロードされる。

　「Windows AI APIsとは」というページによれば、GPUで利用可能になるのはPhi SilicaのAPIのみで、対応するGeForceのドライバは615.21以降。AMD GPUのサポートは近日公開予定となっている。

　ささらにPhi Silica APIについての詳細を見ていくと、プロンプト圧縮が使えず、高速テキスト生成のための投機的デコードも利用できないなど、GPUではNPUとは一部異なる動作になることが明らかとなっている。なお、LoRAアダプタはNPU/GPU問わず、Fine-Tuning Kitを使用してクラウドでトレーニングする必要がある。さらにモデルサイズも大きく、ストレージおよび通信量を消費するため、実行前に確認のダイアログが出るようになっている。

　なお、Copilot+ PCにGPUを追加した場合でも、APIは常にNPU側で実行される。加えてPhi Silica以外はGPUでサポートされないため、テキスト認識や音声認識、ビデオや画像の超解像度、画像の説明、画像のセグメント化、オブジェクト消去、画像生成といったAPIはNPUまたはCPUで実行される。