トピック

トークン代削減と機密保持に。AMD「Ryzen AI PRO」が企業PCを変える

 生成AIの活用が広がる中、企業向けPC市場では「AI性能」だけでなく、「いかに安全かつ効率的に大量導入・運用できるか」が重要なテーマとなっている。

 AMDは企業向けにAMD Ryzen AI PROプロセッサをリリース。NPUによるローカルAI処理だけでなく、企業で安全に使うためのセキュリティや管理機能、長期安定供給を提供している。

 本記事では、AMDが考えるAI PCの将来像と、企業のIT管理者が直面する運用課題に対し、AMDがどのようなソリューションを提供しているのか、日本AMDの関根正人氏(コマーシャル営業本部 セールスエンジニアリング マネージャー)と楊博光氏(コマーシャル営業本部 部長)へのインタビュー形式で紹介する。

トークン消費や機密保持で、PCでのローカルAIに企業が注目

 「 この半年だけでも、AIを取り巻く環境はとんでもないスピードで変わっています……と私が言うまでもなく、皆さん自身が体感されていると思います 」とまず関根氏は話し始めた。

 AIの急速な発達……それにともなって、AIの課題として話題に上るポイントも移り変わってきている。今、企業ユーザーの間でクラウドのAIサービスについて語られる大きな話題の1つが、トークン消費量(AI使用量)だ。

 AIチャットからAIエージェントへの進化や、使う側での利用がどんどん活発になるにつれて、トークン消費が増える。「 料金体系はさまざまですが、使えば使うほどお金がかかり、予定していなかったIT費用が発生することになります 」と関根氏は指摘する。

 これによって、月の途中でトークン利用枠を使い切ってしまったり、使っただけトークンを消費して請求額が莫大になってしまったりすることになる。いずれにしても、仕事でAIに頼る状況において、これは困る。

  そこで改めて注目されるのが、クラウドではなく利用者側のローカルで動かすAIだ。 AIの利用のうち、ローカルで処理できるようなものであればPCで処理し、クラウドAIは必要なものだけにすれば、クラウドAIのトークンの消費を抑えられます 」と関根氏は言う。

 もう1つ、ローカルのAIが必要とされる理由に、社内の情報をAIで活用する用途がある。「 企業の皆様は、社内の文書をAIと一緒に作ったり、AIで要約したりする時代になってきています。しかし社内の重要文書をクラウドに送信して安全かどうか完全には分からないので、であればローカルでAI処理できるならその方がいい、という状況はありがちです 」と関根氏は説明する。

日本AMDでコマーシャル営業本部セールスエンジニアリングマネージャーを務める関根正人氏

データセンター向けCPUのDNAを受け継ぐRyzen AI PRO

 このようなローカルAIを、ビジネスマンが普段使いする、高性能なディスクリートGPUを搭載していないようなPCでも動かそうというのが「AI PC」だ。AI PCの中でも、Microsoftが基準を決めて認定し、推進しているのが「Copilot+ PC」だ。いずれもCPUの中にAI処理のためのNPUを搭載しており、Copilot+ PCでは40 TOPS以上のAI性能が定められている。

 AMDは現在、この分野のCPUとして「AMD Ryzen AI」シリーズを展開。中でも法人市場向けには「AMD Ryzen AI PRO」を出している。

最新のAMD Ryzen AI PRO 400シリーズ

 AI PCに対応したNPU搭載CPUは、他社からも出ている。その中で、AMD AI PROの特徴として、「 NPUだけでなく、CPU、GPU、NPUの性能をバランスよくてんこ盛りにしている 」ことを関根氏は挙げる。

 AIのモデルや用途によっては、CPUを使うものも、GPUを使うものも、NPUを使うものもある。「 適材適所で、CPU、GPU、NPUの全方位でサポートできるプロセッサであることがポイントだと思っています 」と関根氏。

 「 AMD Ryzen AI PROでは、最大12コアでマルチスレッド対応し、ある程度の大きさのLLMであればCPUでも回せます。ただ、そうすると通常のアプリケーションが使うCPUリソースがなくなってしまいます。そこで、できるものはNPUやGPUで処理するのが現実的です 」(関根氏)。

 さらに関根氏が強調するのが、データセンター向けCPUのDNAがそのままPC向けに受け継がれている点だ。「 今データセンターで、CPUのEPYCにAI向けGPUのInstinctと、AMDのプロセッサが躍進しています。このデータセンター由来のアーキテクチャをそのままPCに持ってきていて、いわばミニデータセンターという感じです 」と関根氏は語った。

 NVIDIAのCUDAに相当するAMDのROCmも、これまでデータセンターのGPUサーバー用だったが、ROCm 7.2からWindowsに正式に対応した。「 これによってROCmに対応したAIモデルを高精度で動かせる点も、AMD Ryzen AIの特徴です 」と関根氏は語った。

 データセンターといえば、ローカルAIには、PCのオンデバイスだけではなく、オンプレミスのサーバーで動かす場合も含まれる。その用途の使い分けについて関根氏に尋ねると、「 NPU・GPU・CPUの使い分けと同様に、PCと、オンプレミスのGPUサーバーも、パフォーマンスとコストの分岐点によって使い分けられます。AMDとしては、サーバーからPCまで、お客様のニーズにあわせて提案できるのも強みと思っています 」との回答だった。

 ちなみに、Copilot+ PCというと、PCの中でもハイエンドで高価な部類となる。これについて関根氏は「 AMDとしても、Copilot+ PC向けは当然引き続き投入していきますが、もう少しリーチしやすい価格帯にもAI PCを広げていきたいというビジョンもあります 」と付け加えた。

NPUでAIチャットもAIアシスタントも動く

 さて、ローカルAIとNPUの意義は分かった。ただし、結局はクラウドAIではないと実用にはならないのではないか、PCで動かすといっても結局は高性能なディスクリートGPUを使うことになるのではないか、あるいはNPUでは簡単なAI推論にしか使えないのではないか、という疑問も浮かぶ。

 これに対し、「 先ほど、AIがすごいスピードで変わっているという話がありましたが、AMDチップ搭載のPCで使えるオープンソースのAIツールも、ここ最近とても完成度の高いものが出てきています 」と、楊氏は指摘する。

日本AMDでコマーシャル営業本部部長を務める楊博光氏

 鍵となるのが、オープンソースのエコシステムだ。「 AMDは昔からオープンソースのエコシステムに積極的に技術協力しています 」と関根氏。AIについても技術協力しており、「 AMDのXDNA2 NPUをうまく使うためのLLMやAIアプリケーションが、すでにいくつも用意されています 」(関根氏)という。

 その例としては、Liquid AIがノートPCやスマートフォン、ウェアラブル向けに開発する軽量高精度AIモデル「LFM(Liquid Foundation Model)」を関根氏は紹介した。「 LFMにもAMDでは出資しており、いち早くXDNA2 NPUに対応して、実際に使えるようになっています 」(関根氏)。

 と言葉で説明されても、あまりピンとこない。そこで実際に、関根氏のAMD Ryzen AI 7 445搭載ノートPC上でAIを動かすところをデモしてもらった。

 まずは、対話型AIチャットの「Lemonade」を試す。ちなみにAMDはLemonadeにも技術協力しているということだ。

Lemonadeの画面

 Lemonadeを起動すると、デモ環境では、画面左側のモデルマネージャーにさまざまなAIモデルの一覧が表示され、それだけ多くのモデルが使えることが分かる。モデルによっては、名前の末尾に「GPU」や「NPU」と付けられており、それぞれGPU用やNPU用に専用のモデルが用意されている。

 ここでNPU用のモデルを選択し、チャットで、AMDのWebサイトから英文を貼り付けて日本語に訳すよう依頼すると、意外とすぐ結果が返ってきた。このとき、WindowsのタスクマネージャーからNPUやGPUの使用量を見ると、GPUが使われず、NPUがしっかり使われていることが分かる。

NPUを使いLemonade上で翻訳をさせている
このときのNPUの使用状態。CPU使用率は17%、GPUは1%と低いが、NPUは52%となっており、NPUで動いているのが分かる

 続いて、AIチャットから発展して、AIアシスタントの「AnythingLLM」を試す。AnythingLLMでは、RAGや、ドキュメントの閲覧と要約、Webサイトの取得、ドキュメント作成などができるようになっており、それらのエージェントスキルをオンにすることで利用できる。

AnythingLLMの画面

 AnythingLLMの「LLMプロバイダ」の設定では、クラウドやローカルのLLMプロバイダを選べるようになっている。デモでは、さきほどから動かしているローカルのLemonadeを選んだ。この設定からは、さらにLemonadeの中でどのモデルを選ぶかも指定できる。

 デモでは、AMDの公開している文書で、英語で書かれた日産の採用事例のPDFをアップロードして「日本語で400字程度で要約して」と依頼。すると、ちゃんと日本語で要約が返ってきた。同様に、Webの英文ブログ記事のURLを指定して「このサイトをスクレイプして日本語で400字程度で要約して」と依頼すると、日本語の要約が返ってきた。

AnythingLLMでPDFファイルの英文を400字の日本語に要約
要約中のNPUの状態

 また大きな文書の例として、EPYCのチューニングガイド(英文)から、同様に「日本語で400字程度で要約して」と依頼し、やはり日本語の要約が返るところも見せた。

 このときも、タスクマネージャーではGPUではなくNPUが使われていることが分かる。また、AIモデルをGPU用のモデルに変更して試すと、ちゃんとNPUを使わずにGPUが使われることが、タスクマネージャーから分かった。

GPU用のモデルを選んだ場合、しっかりとGPUが動作している

 さらに、AnythingLLMには会議アシスタントの機能もあり、Web会議の内容から要点をまとめ、アクションアイテムや次のステップなどを提案してくれる。

AnythingLLMで会議アシスタント機能を利用しているところ

 デモを見た範囲では精度はよく分からないが、使い方としてはクラウドAIの同様の機能と同じようなことができそうだ。特に、企業や官公庁では外に出せない文書を参照したいことも多いため、PCのオンデバイスのAIで文書を要約できるのは使えそうだ。また、飛行機や新幹線での移動中に、AIに文書を要約してもらうといった場合にも便利そうだ。

AMD Ryzen AI PRO搭載ノートPCでデモを行なっている関根氏

 デモを終えて関根氏は「 3カ月前にこんなデモができるなんて思っていませんでした。ローカルAIのためのアプリケーションのオープンなエコシステムが、すごいスピードで広がっていることを実感します。と同時に、次にはこんなこともできるようになってくるんじゃないか、という期待感も増しています 」と語った。

企業のためのセキュリティや管理の機能も搭載したRyzen AI PRO

 企業で使うPCを選ぶときには、AIのための機能だけではなく、セキュリティや管理性も重要だ。AMD Ryzen AI、特にAMD Ryzen AI PROでは、その面も重視している。

 「 ローカルAIだけでなく、クラウドメインの利用形態でも安心して使えるセキュリティを、これまで拡充してきています 」と楊氏は語る。

 現在のCopilot+ PCでは、NPUのほか、Microsoft Plutonセキュリティプロセッサも搭載されているが、「 Plutonも他社に先駆けてAMDが導入しました 」と楊氏。

AMD Ryzen AI PRO 400シリーズのセキュリティ機能

 また、AMDのCPUにはセキュリティのためのコプロセッサAMD Secure Processorが搭載され、CPUと独立してセキュアブートなどを担っている。

 「 AMD Ryzen AI PRO 300からは、AMD Secure Processorも、バージョン2にバージョンアップしています 」と楊氏。「 これによって、会社の従業員が仕事をしていて、より安全性が担保されるようになっています。クラウド経由の復旧など、より運用サプライチェーンレジリエンスに踏み込んで、本当に壊れにくい、問題があったときも戻しやすい。そのため安心して使えるPCに近づいています 」。

 AMD Ryzen AI PROでは、企業におけるセキュリティや管理のために、AMD Manageability技術を搭載しているのも、AMD Ryzen AIから強化されている点だ。電源がオフになっているPCの電源をリモートから入れたりできるようにもなっている。楊氏も、DMTF(Distributed Management Task Force)による「DASH(Desktop and mobile Architecture for System Hardware)」オープン標準に基づいていることを特色として挙げた。

企業のAI PCのユースケースを拡張していく

 以上のように、企業がAI PCを採用すべきポイントを見てきた。では、AMDとしては今後どのように企業にAI PCを訴求していくのか。

 「 今ようやくNPUを搭載したAI PCを活用できるユースケースが増えてきました。これまではチャットボット的な使い方が中心でしたが、最近になってAnythingLLMのようなエージェンティックな使い方もローカルPCでできるようになりました。企業ユーザーにこうした便利さを提供して、ユースケースを拡張していきたい。AI PCの一番の肝は、作業工数の削減や業務の効率アップなので、その活用事例をどんどん出していきたい。そして、活用が増えれば、よりコンピューティングリソースが必要になるので、それに対応できるプロセッサを毎世代粛々と開発して提供していくのがAMDの役割だと思います 」(関根氏)。

 「 IT管理者の目線で、AMD RyzenとAMD Ryzen AIで何が違うかというと、私はやはりセキュリティや管理だと思っています。エンタープライズの大量購入やリモート管理、長期の運用、セキュリティなど、さまざまな要件を全部カバーしているのがAMD Ryzen AI PROです 」(楊氏)。

 なお、ZenアーキテクチャのAMD RyzenとEPYCが登場したのが2017年で、2027年には10周年だ。「 こんなにAMDがテクノロジのリーダーのポジションでいられるのは、それまでになかった 」と関根氏は述べる。そして、企業向けPCに本格的に取り組むようになったのは、コンシューマPCでの実績が出た後で、ここ数年のことだという。

 「 かつては企業のお客様は互換性の問題を気にしてAMDの採用を見送ることもありました。しかし、AMD RyzenやEPYCも10年たって、シェアも上がり、大手クラウドのサーバーでも使われており、もう互換性の問題も気にしないで大丈夫です 」(関根氏)。