LM Studioをさらに便利に使おう！モデルの選び方や便利な使いこなしテクニックを解説

　チャットを通じてAIを気軽に利用できるLLM(Large Language Model)。ソフトウェア「LM Studio」では、こうしたLLMを自分のPC上で実行できる「ローカルLLM」環境を作れる。

　以前の特集ではこのLM Studioをダウンロードし、ローカルLLMとして利用できるようにするまでを紹介した。改めて概要を簡単におさらいしておくと、LM Studioのホームページからダウンロードして実行、そして自分のPCに合うモデルをLM Studio内で追加ダウンロードすれば、すぐさまローカルLLMが利用できる、というものだ。

　今回はさらにもう一歩踏み出してみよう。多種多彩なLLMの特徴、自分のPCのスペックに合わせたものを選ぶための指標、さらにLM Studioから利用できる便利機能や重要な設定項目などを紹介する。

自分のPCにマッチしたLLMを使おう

　LM Studioでは、アプリのインストール直後に起動すると、Googleの「Gemma 4」というモデルのダウンロードを行なってローカルLLMとして使えるようにしてくれる。しかしLM Studioは、このGemma 4専用のアプリではない。別のモデルをダウンロードして利用することもできる。

　こうした別のモデルをダウンロードする方法も簡単だ。LM Studioでは、各種モデルがアップロードされている「Hugging Face」というサイトに直接アクセスできるようになっており、モデルの検索ウィンドウから目的のものを探してクリックするだけでよい。

左のアイコンの上から5番目をクリックしよう

するとHugging Faceの検索ウィンドウが表示される。

左上の検索ウィンドウに検索ワードを入力すると、その検索ワードにマッチするLLMがリストで表示される

ダウンロードしたいLLMをクリックすると、右のウィンドウに概要が表示される

[Download Options]のドロップダウンメニューから、LLMのサイズや後述する量子化のレベルを選択できる。今回は[Qwen 3.5 9B Q4_K_M]を選択

ドロップダウンメニューを閉じて[Download]ボタンをクリックすると、そのLLMをダウンロードする

LLMのダウンロードが終わったら、[Use in New Chat]というボタンに変わるので、これをクリックする

するとチャット画面に戻り、LLMをどういった設定で読み込むかの画面を表示する。まずはそのまま右下にある[モデルを読み込む]をクリックしよう

下部のテキストボックスに質問したい内容を入力して、ローカルLLMを楽しもう

　Hugging Faceにはさまざまなモデルがアップロードされており、ユーザーが自由に試せる。日本語も含む多言語対応のモデルとしては、Google製のGemmaシリーズのほか、先ほど紹介した中国アリババ製の「Qwen」シリーズ、フランスMistral AI SASの「Mistral」シリーズなどがある。

　中でもQwenは高機能なモデルで注目度も高い。中国製なので、たまに中国語(簡体中国語)が混じることもあるが、基本的には日本語で問題なく利用できる印象だ。Qwenを実際に導入して日本向けのカスタマイズやチューニングを行なっている日本企業もある。

　Mistralは、Qwenに比べると日本語環境に対する適応度はやや低めであり、チャットの回答が表示されなかったりすることもある。いずれにしても、LLMは進化のスピードが非常に速いため、基本的には最新版を利用したい。

　それぞれのモデルには、いわばAIの思考回路の規模ともいえる「パラメータ数」、そうした思考回路を単純化することで性能の低いPCでも使いやすくする「量子化」というスペックが設定されており、基本的にはこの2つによってLLMの推論性能が変わってくる。

　パラメータ数は、そのモデルがどの程度複雑で精密な推論に対応できるかということを示す指標だ。たとえば「27B」というモデルは約270億のパラメーターを保持している。BはBillion(10億)の略で、この数字が大きければ大きいほど推論性能は高くなるが、モデル自体の容量も大きくなり、推論にかかる時間も長くなる。

　量子化とは、モデルを利用する際の演算負荷を下げることで、より低いスペックのPCでもそのモデルが動作しやすいように調整することだ。「Q3」、「Q4」、「Q8」など、「Q+数字」で表記されており、Qの後に続く数字が小さいほど量子化が進んだモデルになり、量子化が進むとモデルの容量は小さくなる。モデルの容量が少なくなれば、スマホやノートPCなどメモリやCPU/GPUの性能が低い機器でも動作しやすい。

　たとえばGoogleの「Gemma 4 12B」では、同じパラメータ数でも量子化のレベルが異なる3つのモデルを公開している。Q4レベルの容量は7.56GBだが、Q6レベルだと9.96GB、Q8レベルの容量は12.84GBと量子化レベルによってモデルの容量は異なる。

　今回は、CPUが「Ryzen 7 7800X3D」でメモリは64GB、GPUに「Radeon RX 9070 XT」(VRAMは16GB)を採用したビデオカードを組み込んだ自作PCで、同じプロンプトを入力したときの推論速度を比較してみた。基本的に容量が小さく、量子化が進んだLLMの方が推論速度は速くなる。

　ただし、量子化が進んだモデルでは推論の精度は低下し、思ったような答えが得られなくなることもある。もとのモデルのパラメータ数にもよるので一概に評価しにくいところはあるが、たとえば素が9BクラスのモデルをQ3クラスまで量子化すると、モデルとしてはかなり怪しい答えを出してくることもあるという。一方で27Bクラスのパラメータ数が大きなモデルなら、Q4クラスまで量子化してもおかしな回答を示すことはほとんどなくなるし、比較的動作も快適だ。

左がGemma 4 12B(Q8)の推論結果で、右がGemma 4 12B(Q4)の推論結果。詳細はPDFを参照していただきたいが、Gemma 4 12B(8Q)の考察結果のほうが、より広い範囲で思考していることが分かる

　またモデルの推論速度は、GPUを搭載するビデオカードの性能に影響されやすい。その要因の1つとして「高性能なビデオカードほど大容量のVRAM(ビデオカード用の演算メモリ)を搭載している」ということがある。

　大容量のVRAMを搭載している高性能なビデオカードでは、GPUから超高速にアクセスできるVRAMにLLMのデータを展開(ロード)して推論作業が行なえる。しかし性能が低くVRAM容量が少ないビデオカードでは、VRAMだけではなく相対的にアクセス速度が劣るメインメモリも利用しなければならないため、推論速度も大きく低下する。

　とはいえAI事業者ではない一般ユーザーには予算の都合もあるため、CPUやメモリ、ビデオカードに対して無尽蔵に予算をつぎ込むことは難しい。概ねの目安を下記の表にまとめたので、自分がやりたいことを踏まえて購入するビデオカードを選択しよう。

高性能なPCのモデルや計算能力を別のPCから呼び出すLM Link

　高度なモデルを快適に利用するには、大容量のVRAMを搭載した強力なビデオカードが必要なのは先ほど解説した通り。しかし大型のデスクトップPCを持ち歩くことが不可能な外出先では、こうしたモデルを使うのは無理だ。

　……なのかというと実はそうでもない。LM Studioには「LM Link」という機能がある。これは、別のPCにインストールされたLLMやGPUの推論能力を、インターネット経由で接続している別のPCで利用する機能だ。

　外出先で使っている非力なモバイルノートPCでも、LM Linkを経由して自宅の強力なゲーミングPCに接続すれば、ローカルLLMを快適に使いこなせるというわけだ。初期設定も、ウィザードに従って作業すればいいだけなので非常に簡単。

ウィンドウの左に並ぶアイコンの下から2番目をクリックすると、この画面になる。中央にある2つのボタンのうち、左の[Complete in the browser…]をクリックする

するとWebブラウザが起動し、LM Linkの登録画面を表示する。今回はメールアドレスで登録したいので[Continue with Email]ボタンをクリックする

LM Linkの登録で利用したいメールアドレスを入力して[Send login Link]ボタンをクリックする

先ほど入力したメールアドレスに登録用のURLが記載されたメールが届くので、[Sign in to LM Studio Hub]というURLをクリックすると、登録の申請が終了する

　注意点として、メールアドレスに届いた認証用のURLは、必ず「先ほどメールアドレスを入力したPCのWebブラウザ」で開こう。そうしないと認証作業が正しく進まず、LM Linkの初期設定が行なわれない。

　1台目のPCでこの作業を行なったら、2台目のPCでも「同じメールアドレスを使って」LM Linkの登録を行なう。電子メールによる認証システムを利用しているため、当然だが違うメールアドレスで登録すると連携できなくなる。

LM StudioのWebサイトでは、LM Link Hubから登録済みのPCを確認できる。

　筆者が実際にメインで使っている「RTX3050」(PC名)と、各種モデルをダウンロードしたゲーミングPCの「7800X3D」を起動し、RTX3050側で起動しているLM StudioでLM Linkを呼び出すと、接続されている7800X3Dの状況が確認できる。またRTX3050側のLM Studioから7800X3DのLLMをロードし、チャットを始めることも可能だ。

7800X3Dが[Connected Device]として表示され、GeForce RTX 4070 Ti搭載のビデオカードが組み込まれていることも分かる

左にLM LinkのアイコンがついているLLMが、LM Linkで接続しているPCでダウンロードしているLLMだ

実際に推論作業をしてみると、左の7800X3D側ではGPUやVRAMがフル稼働しているのに対し、右のRTX3050側ではほぼなにも動いていない状態だ

LM Studioをさらに快適にするための設定を知る

　ここからは、使いこなしに関する便利な設定テクニックをいくつか紹介していく。チャット画面でLLMを呼び出す際に指定できる「コンテキスト長」は、そのモデルが「一度に認識して処理できる上限のトークン数」を示す。

◯コンテキスト長を適宜調整しよう

　「トークン数」とは、AIが文字を認識して処理する際の単位数だ。最近では1単語あたり1トークンになることが多い。そしてモデルは、複数のトークンを扱うコンテキスト長を超えた分のテキストは認識できない。そのため、長文の資料を要約したり海外の技術資料の翻訳をしたりする場合は、各モデルが許容する範囲内でコンテキスト長を大きく設定した方がよい。

　ただ、大きすぎるコンテキスト長を設定すると、メモリをより多く消費するようになり、推論速度が非常に遅くなることがある。快適に利用したいなら、必要なときだけ必要な分増やすような工夫が必要だ。

　モデルの推論作業をどの程度GPUに割り振るかを決める設定が、「GPUオフロード」という項目だ。原則的に数字が大きい方がGPUへ多くの作業を割り振る設定になっている。そしてコンテキスト長とGPUオフロードは、原則的にモデルのロード時に最適な数値をLM Studioが選択して設定している。

モデルをロードするときの設定画面で、コンテキスト長やGPUオフロードを設定できる

　必要がなければユーザーの方で積極的に変更しない方がよい項目ではあるが、「普段と違ってちょっと遅いな」と感じるようなときに、標準設定との違いを確認する程度でよいだろう。

　また、メモリ効率化に関する「Flash Attention」は、最近のモデルでは基本的に有効になっており、あえて変更する必要はない。古いモデルを使っているときに、なにか不具合を感じた場合は無効にしてみるのもいいだろう。

Flash Attentionは、モデル名の左に表示される歯車マークをクリックして表示される設定画面で設定できる。なお、ここからコンテキスト長やGPUオフロードの設定も変更可能

◯システムプロンプトで効率化

　プロンプトの入力効率を上げたいときに活用したいのが、右ウィンドウを表示して設定できる「システムプロンプト」である。これは、モデルに対してチャットでプロンプトを入力する際に「必ず指定する内容」を入力するエリアだ。

　たとえば秘書や女子高生(！)のつもりで答えてと入力しておくと、チャットの語調は常にそうした設定を反映して答えてくれる。

LM Studioの右ウィンドウを表示し、[システムプロンプト]の欄を開くと、システムプロンプトを入力できる。チャットの結果もなかなかおもしろい

「大学教授がゼミ生と話している感じで」と入力すると、文体は大きく変わる

　また日本語と英語が入り交じる文書を読み込ませる機会が多いなら、「日本語はそのまま処理続行、英語は日本語に翻訳」と入力しておくのもよいだろう。文書の要約や作成などで、英語や日本語だけを認識して処理を進めるようなトラブルが起きにくくなる。