特集
AMDのNPUでLLMが動く！音声認識や画像生成も使えるローカルAIツール「Lemonade Server」
2026年7月16日 06:02
AMDのAI機能は、NVIDIAやIntelに比べて遅れているイメージが強かったが、最近はぐっと盛り返してきている。その象徴的な存在の1つが、「Lemonade Server」だ。
これはRyzen AIをベースに、さまざまなAIランタイムを統合したローカルAI実行環境。サーバーと名前が付いている通り、外から呼び出してAI機能を使うこともできるが、デスクトップクライアントも付属するので、単純にローカルでAIを動かすツールとしても使える。
このクライアントについて基本的な部分を解説していく。使用するPCは、Ryzen AI 9 HX 370を搭載したミニPCで、メインメモリは32GB搭載したもの。ディスクリートGPUは非搭載で、内蔵GPUのRadeon 890Mのみとなる。
ダウンロードしてすぐ使えるAIツール
まずはソフトのダウンロードから。公式サイトにアクセスし、「Download for Windows(.msi)」からWindows用インストーラーをダウンロードする。利用は無料で、ユーザー登録なども求められない。
インストールして実行すると、画面に何も表示されない。タスクトレイを見ると、「Lemonade Server」のアイコンがあるので、右クリックのメニューから「Open Lemonade App」を選択する。これでクライアントが表示される。
クライアントのデザインは、よくあるチャットAIのデザインに似ている。ただし、「Lemonade Server」インストールしただけではAIが動く準備ができていない。目的に応じてAIモデルをダウンロードし、呼び出す必要がある。
左側にある「SUGGESTED MODELS」にある8つの項目は、それぞれ推論エンジンごとにAIモデルを分類したもの。その中に複数のAIモデルが登録されており、そこから選んでダウンロードする形だ。各推論エンジンごとに目的がはっきり分かれているので、1つずつ説明していく。
その前に、Ryzen AIの内蔵GPUを用いる際の注意点として、占有ビデオメモリを極力減らしておく方がいい。「AMD Software: Adrenalin Edition」のシステム設定で、「可変グラフィックスメモリ」の設定を「Minimum」にしておく。本機の場合、初期設定では「High」になっており、占有ビデオメモリとして16GB確保されていたが、「Minimum」だと0.5GBになる。
一般的にローカルAIはGPUとVRAMで動かすため、ビデオメモリが多くて困ることはないのだが、Ryzen AIは場合によってNPUやCPUも使うので、なるべく多くメインメモリを空けておく方が都合がいい。仮にビデオメモリが必要になったときは、メインメモリからシェアされるので問題ない。
NPU専用のLLM用ランタイム「FastFlowLM」
今回、最も注目してもらいたいのは、「FastFlowLM NPU」と「Ryzen AI LLM」の2つだ。どちらもLLMを動かすものだが、「FastFlowLM NPU」はAMDのNPU専用のランタイム「FastFlowLM」で動作するモデル群、「Ryzen AI LLM」は「Ryzen AI Software」を利用するモデル群となっている。
「FastFlowLM NPU」から見ていこう。左のメニューを開くと、その中に数十のAIモデルが用意されている。好きなものを選んでダウンロードし、読み込む。今回は「gemma4-it-e4b-FLM」を選んだ。Google DeepMindの最新モデル「Gemma 4 Instruct E4B」の「FastFlowLM(FLM)」対応版だ。
ダウンロードが済んだら、左のメニューから動かしたいモデルを選び、三角形の再生ボタンをクリック。これでモデルの読み込みが始まる。上段にある「ACTIVE MODELS」に表示され、右側のアイコンが緑色になったら準備完了だ。
右下にあるテキストボックスからメッセージを入力してみると、1秒間に数文字というゆっくりした速度で回答が進んでいく。このとき「タスク マネージャー」を開くと、NPUだけがフルに稼働しており、CPUやGPUはほぼ使われていないことが分かる。「FastFlowLM」はNPUだけを使って推論するので、このような動きになる。
「Gemma 4 Instruct E4B」は画像認識にも対応したモデルで、「gemma4-it-e4b-FLM」も画像を扱える。試しに猫の画像を渡して内容を説明させると、かなり適切に映像を把握し、破綻のない日本語で説明できた。9GB程度の小型AIモデルとはいえ、NPUだけでこれだけのことができるのは、なかなか感動がある。
「FastFlowLM NPU」に登録されているモデルは、 すべてNPUだけで処理するLLMということになる。他にも「Qwen 3.5」など新しいモデルも登録されており、対応が早いのも魅力的だ。
NPUとGPUのハイブリッド動作に対応した「Ryzen AI LLM」
次は「Ryzen AI LLM」を見ていく。こちらのモデルリストを見ていて特徴的なのは、モデル名の最後に「NPU」と「Hybrid」というものが並んでいるところ。「NPU」はNPUのみで処理を行なうモデル、「Hybrid」はNPUとGPUを併用するモデルだ。
今回は「Phi-4-mini-instruct-Hybrid」を動かしてみた。テキストボックスから話しかけてみると、最初だけNPUが少し使われ、その後はGPUがフルに動作していた。
この挙動を見るに、おそらくユーザーのテキストを理解する処理にNPUを使い、回答の推論にはGPUを使っている。さすがに推論にGPUとNPUを併用するというわけではないようで、どこまで「Hybrid」の効果があるのかは分からない。NPUを使ったからといって回答が遅れる感覚はなく、適材適所の使い分けがなされているようだ。CPU、GPU、NPUを横断して管理できる「Ryzen AI Software」らしい挙動とはいえる。
こちらも登録されているモデルは多いものの、「FastFlowLM NPU」に比べると対応が遅めで、「Gemma 3」や「Qwen 3」あたりのやや古いモデルまでとなっていたのが少々残念だ。
一時話題になった「gpt-oss-20b」のNPU版もあり、32GBのメモリにギリギリ収まるのだが、回答はかなり破綻してしまう。ローカルLLMを動かしていると、こういうことはよくあるので仕方ない。筆者からするとgpt-oss-20bをNPUががんばって処理しようとしているだけですごいと思ってしまう。
音声認識や音声発話、画像生成も
ほかも見てみよう。「Lemonade」は本ソフトの公式が独自に用意したモデル群。32GBのメモリにはとても収まらない大型のモデルが2つと、何とか収まる「LMX-Omni-5.5B Lite」がある。
「LMX-Omni-5.5B Lite」を読み込むと、チャットAIの「Qwen3.5-4B-MTP-GGUF」、画像生成の「SD-Turbo」、音声認識の「Whisper-Tiny」、音声発話の「kokoro-v1」という4つのモデルが同時に立ち上がる。複数のモデルを組み合わせて多機能化するもので、「Lemonade Server」の機能を試すのに最適な組み合わせとなっている。
ただ今回の環境では、画像生成AIがエラーで読み込めなかったため、「SD-Turbo」が動かせず、「LMX-Omni-5.5B Lite」として動かすこともできなかった。うまく動かせれば、いかにもローカルAIサーバーという挙動が実現できるのだろう。
次は「Kokoro」。先に名前が出た「kokoro-v1」だけが登録されている。これは入力したテキストを音声出力してくれる機能で、残念ながら日本語は話せないが、英語はかなり抑揚をつけて丁寧に発話してくれる。モデルサイズは362MBと小さい割にかなり優秀だ。
続いて「Llama.cpp GPU」。これはローカルLLMでは標準的な存在となっている汎用バックエンド「llama.cpp」を使って動かすモデルを集めたもので、新旧さまざまなモデルが並んでいる。「Gemma-4」の「12B-it-MTP」を使ってみると、最初にしばらく思考した後に、丁寧な日本語で回答が得られた。
「Moonshine」は音声認識エンジン。音声認識では「Whisper」が有名だが、Moonshineはより軽量で低遅延なのが特徴だという。「Moonshine-Medium-Streaming」というモデル名からもその意図がうかがえる。試してみると、英語のみの認識ながら高速に音声がテキスト化された。精度が悪いのは、筆者の発音の悪さやマイクの品質も影響していると思われる。
「StableDiffusion.cpp」は、画像生成AI「Stable Diffusion」をベースにしたもの。「Flux-2」や「Qwen-Image」など対応するモデルもいろいろあるが、残念ながら今回はどれもうまく動かせなかった。試しにビデオメモリを16GB占有させてみたがうまくいかず、何か環境に問題があったのだと思われる。
最後の「Whisper.cpp」は、先に出てきた音声認識「Whisper」のモデル群。サイズ違いで複数のモデルが用意されている。「Whisper-Large-v3-Turbo」を試してみると、日本語で話した内容が、すぐさま英語になってテキスト出力された。「Whisper」は翻訳機能も持っており、話し言葉を即翻訳している。
使用中の様子を「タスク マネージャー」で確認すると、CPUをある程度使いつつ、NPUも大きく動いている。音声認識部分と翻訳部分を、NPUとCPUで分担作業しているのかもしれない。
NPUで動かせるLLMが山ほどある衝撃
以上で全項目の確認となる。画像生成が使えなかったのは残念だが、GPUのみならずNPUも活用する事例が多数あり、NPUの実用性がまた一歩高まったと感じられた。
LLMをNPUで動かす取り組みは、他社のNPUでもあまり進んでいない。筆者はCopilot+ PCの登場以来、さまざまな方法を探してきたが、「Lemonade Server」に山ほどNPU対応のLLMが登録されているのを見て、今までの苦労はいったい何だったんだと言いたくなるほどだ。現在のAMDがAIにどれだけ力を入れているのかがよく分かる。
「Lemonade Server」としては、おそらく今後も対応するモデルが増えていくはずで、AMDプラットフォームでローカルLLMを試すのに最適な存在だ。ディスクリートGPUを搭載すれば「Llama.cpp」のGPU向けモデルが使えるし、それがRadeonであれば「Ryzen AI Software」の中に組み込まれてさらに活用できるはずだ。
ソフトをダウンロードしてから何をどうすればいいのか、初心者には分かりにくいところもあるが、モデルのダウンロードと読み込みの手順さえ分かれば難しいところはほとんどない。ローカルAIを体験してみたいというAMDプラットフォームユーザーには、迷わず「Lemonade Server」のインストールをおすすめする。