特集

ミニPCでローカルAIエージェントはどこまで動く?「LM Studio Bionic」で試した

 巷でAIといえば、ほとんどはChatGPTを始めとしたチャットAIのことだと理解される。そのチャットAIを一歩進めた存在として、AIエージェントという言葉を聞いたことがある方は多いだろう。

 「LM Studio Bionic」は、ローカルでAIエージェントを扱うためのツールだ。開発するElement Labsは、以前から「LM Studio」というローカルチャットAIツールを提供してきた。筆者も長らく愛用してきた、とても優秀なツールだが、これが「LM Studio Bionic」でAIエージェントへと一段ステップが上がった形だ。

AIエージェントとは何か?

 AIを仕事で使うエンジニア職の方ならば、チャットAIとAIエージェントの違いは分かるはず。しかし非エンジニアの方には難しいかもしれない。まずはこの違いから説明しておこう。

 チャットAIは、ユーザーの問いかけに対して、AIが返答する。行って帰っての、言葉のキャッチボールをする仕組みだ。何かを質問したり、調べてもらったりするだけなら、これで十分だろう。

 AIエージェントは、ユーザーの指示に対して、どうやればその指示を実現できるかを自ら考えて実行する。「あれやっといて」と頼むと、「これをやるには何が必要で、どんな順番でどうやるか? やってみてうまくいったか? ダメなら違う方法を考え直そう」といったことを、自律的に進めていく。

 チャットAIは1つの“質問”に対して答えてくれるもの、AIエージェントは1つの“目標”に対して結果を出そうとしてくれるもの、というと分かりやすいだろうか。

AIエージェントもチャットAIも両方使える

 ではLM Studio Bionicを使ってみよう。ソフトは公式サイトから無料でダウンロード可能だ。

 起動すると、中央にテキストボックスがあるだけのシンプルなウィンドウが表示される。インストール直後にはAIモデルが1つも入っていない状態なので、「モデルを選択」をクリックし、「ローカルモデルを入手」を選ぶ。既に登録済みのモデルはクラウドAIで、利用には料金が発生する。ローカルAIならばダウンロードや利用は無料だ。

チャットAIそのもののようなシンプルなUI

 利用するAIモデルは、「Gemma」や「Qwen」などチャットAI向けでもおなじみのものが並ぶ。AIエージェント向けに開発されたMeta AIの「Muse Glimmer」などもある。AIモデルによってファイルサイズが異なり、大きなモデルほどメモリ使用量も増える。

 スタッフのおすすめは「Qwen3.8 27B」や「Muse Glimmer」、「Bonsai 27B」、「Gemma 4 12B QAT」などのモデル。今回はRyzen AI 9 HX 370と32GBのメインメモリを搭載したミニPCを使用してテストしたのだが、「Qwen3.8 27B」や「Muse Glimmer」、「Gemma 4 12B QAT」はメモリを使い切ってしまうため、主にサイズが小さい「Bonsai 27B」と、より小さい「Gemma 4 E4B」、「Qwen 3.5 9B」、「Ornith 1.5 9B」などを使用した。

 最初はどのAIモデルが良いか分からないと思うので、おすすめの中から大小いくつかのAIモデルを選んでダウンロードしてみて、実際に使ってメモリをどのくらい消費しているのかを見ていくといい。AIモデルの読み込みだけでメモリを使い切らず、数GB程度は空きがある状態にしておきたい。

AIモデルをダウンロードする。PCのスペック、特に搭載メモリ量に応じたAIモデルを選ぶと良い

 AIモデルのダウンロードが済んだら、左のタブを開いて、「新規チャット」をクリック。右のテキストボックスでダウンロードしたAIモデルを選択して、テキストボックスにチャットを入力してみよう。AIモデルが読み込まれ、何かしら回答される。これはただのチャットなので、質問に対する回答が表示されるだけだ。「LM Studio Bionic」でも単純なAIチャット機能は用意されている。

普通のAIチャットもできる

AIエージェントの働き方を見る

 今回の本題であるAIエージェントを使用するには、右側のタブにある「新規プロジェクト」を選択する。新しいプロジェクトを作成するウィンドウが開くので、適当なプロジェクト名を付けて、「作成」をクリックする。

AIエージェントを使用する際にはプロジェクトを作成する

 画面はチャットモードと同じようにテキストボックスがあり、AIモデルを選択できる。試しに、「今日の日本国内のニュースの中から、重要度が高そうなニュースを3つピックアップして、その内容を10歳くらいで理解できるように解説を加えた上で、HTML形式のファイルで出力して」と指示してみた。

 すると、AIは最初に自分がやるべきことを整理し始めた。「今日の重要な3つのニュースを見つける」、「10歳でも分かるよう解説を加える」、「HTMLファイルで出力する」と作業を分割した上で、まずはWeb検索で日本のニュースを探そう、と決めた。

 その後は、日本の主要なニュースサイトに掲載されているニュースを閲覧して、大きなニュースをピックアップ。そのニュースを取りまとめて、10歳向けの解説を加えて、最後にHTMLファイルを出力した。1つの作業が終わるごとにAIは思考に入り、次やるべきことを確認して、着実に作業を進めていった。

指示に従ってどんな作業をするのか最初に考えて、次の作業が終わったらまた何をすべきか考える、という繰り返し

 そして最終的に、3つのニュースが書かれたHTMLファイルが作成された。1つの指示を出すだけで、成果となるファイルの出力までしてくれたわけだ。作業ごとに何度も思考している分、チャットの回答に比べると相当長い時間がかかるが、「ユーザーが指示した目標を達成するために動き続ける」というAIの挙動がよく分かる。

指示したファイルが完成した

 ただし、出力されたファイルは一部が英語になっていた。そこで「日本語に直して」と追加の指示を出すと、それを受けて再びやることを考え、その通りに実行し、きちんと日本語で出力されたかを確認して、完成したことを伝えてくれた。1回指示したら終わりではなく、何度でも手直しの指示を出せる。

修正指示をすると、また時間をかけてその通りに直してくれた

 こちらのやりたいことを伝えるだけで、それに向かって働いてくれる。だからエージェントと呼ばれている。この一連の動きを見れば、エンジニアがAIに何をさせているのか、イメージが掴めるのではないだろうか。

修正されたHTMLファイルを、Webブラウザで開いた

 なお、この操作を行なう前に、設定にある「ウェブ検索」の機能をオンにしてある。エージェントがWebの情報を取得できるようにする設定で、これによって最新の情報が取得可能になる。AIモデルが学習している情報だけでなく、自ら情報を探してまとめるという動作が可能になっている。クラウド型のチャットAIでは当たり前のWeb検索機能だが、ローカルでも簡単に実現できるのはありがたい。

Web検索機能を使えば、AIモデルの知識にないことも答えられる

ファイル参照を組み合わせて作業の幅を広げる

 「LM Studio Bionic」の機能をもう少し見ていこう。AIエージェントはファイル操作も可能で、本ソフトでも指定したフォルダの内容を参照できる。

 フォルダの指定は、テキストボックスの左下にある+ボタンを押すと出てくる「外部フォルダを追加」をクリック。フォルダを選択すると、AIがそこにあるファイルを参照するようになる。

「外部フォルダを追加」すれば、手元のファイルを参照できる

 テストとして、「フォルダの中にある画像から、猫が映っているものを探して、そのファイル名と画像の内容をセットでテキストファイルに書いてまとめて」と指示を出した。画像は大小さまざまなものが9枚あり、そのうち1枚だけが猫の写真だ。

こちらがターゲットとして用意した猫の画像

 最近のローカルチャット用AIモデルは、マルチモーダルのものが増えており、テキストの理解だけでなく、画像の内容も解析できる。つまり、フォルダ内にある画像ファイルを確認し、その内容を分析して、どんな画像なのかを説明できる。ならば、9枚の画像のうち、猫が映っている画像だけを抽出できるはずだ、という指示である。

 AIは意図をすぐさま理解して、画像の参照を開始。各画像の内容を把握した上で、1点の画像のファイル名を示しつつ、白とオレンジの縞模様という猫の特徴も書いてくれた。作業時間は3分程度。ただ残念ながら、肝心のファイル名を間違えていた。

無事に作業が完了したように見えるが、答えた画像ファイル名が違う

 これはAIモデルの性能によるもので、「Gemma 4 E4B」では性能不足だった可能性がある。そこでメモリを使い切ってしまうのを承知の上で「Muse Glimmer」を使い、同じ作業をもう1度やらせてみたところ、今度は1発で猫の写真を言い当てた。しかもテキストファイルに書かれた画像の内容説明もかなり的確だ。ただし、作業時間は1時間半を超えた。

「Muse Glimmer」はしっかりした回答を出せたが、メモリを食いつぶしているため時間がかかった
一応動いてはいるものの、「タスク マネージャー」はこんな状態で全く余裕がない

 同じ作業を「Qwen 3.5 9B」と「Ornith 1.5 9B」にもさせてみたところ、「Qwen 3.5 9B」は存在するファイルの数とファイル名を誤回答。「Ornith 1.5 9B」は周囲の状況を推測して答えるという完璧な答えだった。AIなので試行ごとに答えがブレる可能性もあるが、同等サイズのAIモデルでも画像読み込み精度の違いや、日本語の適切な使い方など、得手不得手があるのが見えるのも面白いところだ。

「Qwen 3.5 9B」は画像の特徴はよくとらえているものの、画像の数やファイル名を間違えてしまった
「Ornith 1.5 9B」は回答が正確なだけでなく、画像の解説テキストのうまさが際立っていた

 もう少し実用的な例として、資料のまとめをさせる。筆者が過去に執筆した20本の記事をPDFにして1つのフォルダにまとめ、その内容を参照してPowerPoint形式のプレゼン資料とテキスト原稿を作らせてみた。

 AIの思考内容を見ると、PDFを画像ファイルに変換した後に内容を読み、その中から必要な情報を拾い上げて、プレゼンの内容を決めた後に、スライドとテキストファイルをまとめる……という作業を行なった。

 スライドを作成する際、AIにはPowerPoint形式のファイルを直接生成する能力がなかった。そこでAIは、pptx形式のスライドを作成するためのPythonスクリプトを生成。これによってpptxファイルを作成して、指示通りの仕事を成し遂げた――と言いたいところだが、実際にはファイルは出力されていなかった。これも「Gemma 4 E4B」の性能不足かもしれない。

作業を完了したように見えるのだが、実際には何もできていない

 今度は辛うじてメモリを食いつぶさない「Bonsai 27B」に同じ作業をさせてみたところ、同じようにPythonスクリプトを書き始めた。しかし失敗を繰り返し、最後には難しいと諦めて、スライドの内容を書いたテキストファイルを出力した。

 これも不十分ではあるのだが、繰り返し考えた上でできないことを把握して、できないなりに別の方法を示してきたところは、かなり賢いと褒めてよいところだ。

「Bonsai 27B」は失敗を繰り返した結果、最終的に諦めて代案を出してきた
メモリ使用量を見ると、5GB程度の空きがある。これがギリギリセーフのライン

 こちらも同じ作業を「Qwen 3.5 9B」にさせてみると、16分ほどの作業でプレゼンのテーマに合うPDFを抽出し、内容をまとめて、PowerPoint形式のファイルとテキスト原稿の両方を完成させた。スライドは単色で文字を並べたシンプルなものだが、処理用のスクリプトも1回のミスを修正した上で正常に走らせることに成功していた。モデル選びは難しいが重要なのだとよく分かる。

2つのAIモデルが失敗した作業を、「Qwen 3.5 9B」は比較的短時間で完遂
出力したスライドはシンプルながら、指示した内容を理解してまとめているのがわかる

ローカルAIとクラウドAIの使い分け

 今回テストした「LM Studio Bionic」のAIエージェントは、手放しで「うまく動いた」とは言えない結果だった。メモリ32GB搭載でディスクリートGPUがないハードウェア側の限界と、AIモデルの性能限界の両方が影響している。一方で、9BクラスのAIモデルが一部の作業を完遂できたのも事実で、限られたメモリの中でどのAIモデルを選ぶかが結果を大きく左右することも分かった。

 AIエージェントを扱うと、回答の質を上げるためにより高性能なAIモデルを使いたくなる。またAIの記憶力にあたるコンテキストサイズも十分に確保しておかないと、作業ミスが増えて出力の質が落ちたり、過去の作業ミスを忘れて修正のループに陥ったりする。その解決には、できるだけ大量で高速なメモリが求められる。……昨今のAI需要によるメモリ関連製品の高騰の縮図である。

設定にあるコンテキストサイズはできるだけ大きくしておきたい

 それでも、AIエージェントが何をやろうとしているのかは見えたと思う。チャットAIとの違いは明確で、相談相手ではなく仕事仲間なのだということが伝わったはずだ。

 この先はハードウェアとAIモデル、そしてコントロールする「LM Studio Bionic」の進化によって、ローカルAIエージェントの動作は改善されていく。筆者がもっと使い込んで、「こういう場面なら実用的だ」という状況を見つけ出すという、ユーザー側の習熟もあるだろう。

 そもそも、すべての作業がローカルのAIエージェントで完結できるとは限らない。「LM Studio Bionic」も、ローカルでできる範囲のことはローカルでやり、より高い性能が欲しい時にはクラウドAIを使うことを前提にしており、AIモデル選択にクラウドAIとローカルAIを並べて載せている。

 適材適所の1つとしてローカルAIエージェントがいるという状況に持っていければ、クラウドAIにトークンを食いつぶされる日々から少しは解放されるかもしれない。「LM Studio Bionic」はローカルAIとクラウドAIの間を取り持ち、とても手軽に切り替えられることにも大きな価値がある。今現在の性能で評価せず、長い目で見ながら試していただくのが良いと思う。

筆者もPC環境を変えたりしつつ、もうしばらく使い込んで可能性を見出したい