西川和久の不定期コラム
生成AI環境を持ち運ぶため、GeForce RTX 4080搭載ゲーミングノートPCを急遽買った話
2024年7月16日 06:17
仕事の関係から「持ち運べる生成AI環境」が急遽必要となった。CPUはそれなり(笑)、GPUはビデオメモリ(VRAM)が12GB以上、パネル16型以上、予算40万円未満、そして即納！で探した結果、GIGABYTE「AORUS 17X AXF-B4JP664JP」をチョイス。いつものベンチマークテストに加え、生成AI環境の話も含め、試用(設定？)レポートをお届けしたい。
17型ノートで持ち運べる生成AI環境を構築！
今回も主役はGPUだ。機種選択にあたってまずVRAM 8GBを除外。これはこれまでいろいろ生成AI系を使ってきた経験上から。するとノートPCの場合、NVIDIAの“GeForce RTX 40 Laptop GPU”タイプだと、RTX 4080(12GB)かRTX 4090(16GB)しか選択肢がなくなった。また、残念ながら24GBもない。
一般的にNVIDIAのGeForce RTX 40 Laptop GPUは、特に上位モデルに関してはデスクトップ向けGPUのSKUから1ランク下とほぼ同性能と言われており、GeForce RTX 4080 Laptop GPU ≒ GeForce RTX 4070、GeForce RTX 4090 Laptop GPU ≒ GeForce RTX 4080となる。VRAM容量も同じく1ランク下と同容量的な感じだ。実際に筆者が今回購入したGeForce RTX 4080 Laptop GPUのAUTOMATIC1111生成速度テストも、デスクトップのGeForce RTX 4070とほぼ同じという結果となっている。
生成AI用途の場合、VRAM容量は可能な限り多く欲しいのだが、価格を調べるとGeForce RTX 4090 Laptop GPU搭載ノートPCはとてもじゃないが手が出ない。かと言って8GBは少ない。従って消去法的に残ったのがGeForce RTX 4080 Laptop GPU(12GB)搭載ノートPCとなる(それでも十分高価なのだが)。
そして冒頭に並べた諸条件から選んだのが、今回ご紹介するGIGABYTE「AORUS 17X AXF-B4JP664JP」。主な仕様は以下の通り。
| GIGABYTE「AORUS 17X AXF-B4JP664JP」の仕様 | |
|---|---|
| プロセッサ | Core i9-13900HX(8P+16E/24コア/32スレッド/～5.4GHz/キャッシュ 36MB/ベース55W/Turbo 157W) |
| メモリ | 16GB×2/32GB(DDR5-5600 SO-DIMM×2、最大64GB) |
| ストレージ | 1TB M.2 PCIe Gen4 SSD、空きスロット M.2 PCIe Gen4×1 |
| OS | Windows 11 Pro/23H2 |
| ディスプレイ | 2,560×1,440ドット(16:9)表示対応17.3型、非光沢、240Hz、DCI-P3カバー率100%、TÜV Rheinland認証取得 |
| グラフィックス | Intel UHD Graphics for 13th Gen Intel Processors + NVIDIA GeForce RTX 4080 Laptop GPU(12GB GDDR6)/Mini DisplayPort、HDMI 2.1、Type-C(Thunderbolt 4) |
| ネットワーク | 2.5GbE、Wi-Fi 6E対応、Bluetooth 5.2 |
| インターフェイス | Thunderbolt 4×1、USB 3.1×3、FHD Webカメラ(Windows Hello対応)、音声入出力 |
| キーボード | AORUS Fusion RGB各キー独立カラーバックライトキーボード(US配列) |
| バッテリ | リチウムポリマー99Wh |
| サイズ/重量 | 396×293×21.8mm、重量2.8kg |
| 価格 | 約40万円 |
プロセッサは第13世代、Raptor LakeのCore i9-13900HX。8P+16Eで24コア/32スレッド。クロックは最大5.4GHz。キャッシュ 36MB、TDPはベース55W/Turbo 157W。既に第14世代やCore Ultraも出ているだけに、悩ましい部分であるが、AI用途の場合、GPUパワーが支配的でCPUはよほど弱くない限りさほど影響を受けないので、まぁいいか……というところ。もちろんモバイル用としては十分強力なSKUだ。
メモリはDDR5-5600 16GB×2の計32GB。SO-DIMM×2で最大64GB。ここはほかのAIマシンが全部64GBなので増やしたいところではあるが、本機はメインマシンというわけではなく、しばらくこのままに。ストレージはM.2 SSD 1TB。空きのM.2スロットが1つあるので増設可能。ここもメモリ同様、様子見といったところ。
OSはWindows 11 Pro。23H2だったのでこの範囲でWindows Updateし、ベンチマークテストなどを行なっている。余談になるが、自宅での筆者の使い方だと“Pro”が結構重要だ。それはリモートデスクトップでメインマシンから操作することが多いからだ。別件でChromリモートデスクトップも使ったことがあるものの、どうにも使い勝手が悪い。Homeだとこれだけのために別途アップグレード費用がかかってしまう。そのためProが最初から入ってるのが選択した理由の1つだった。
ディスプレイは17.3型2,560×1,440ドット。16:9/非光沢/240Hz/DCI-P3カバー率100%/TÜV Rheinland認証取得……とアスペクト比以外(せめて16:10はほしい)はクオリティも高い。
グラフィックスはプロセッサ内蔵Intel UHD Graphicsと、GeForce RTX 4080 Laptop GPU(12GB GDDR6)。外部出力用にMini DisplayPort、HDMI 2.1、Type-C(Thunderbolt 4)を備えている。
ネットワークは2.5GbE、Wi-Fi 6E対応、Bluetooth 5.2。そのほかのインターフェイスは、Thunderbolt 4×1、USB 3.1×3、フルHD Webカメラ(Windows Hello対応)、音声入出力。
キーボードはAORUS Fusion RGB各キー独立カラーバックライトキーボード付き。US配列となる。バッテリはリチウムポリマー99Wh。個人的にバッテリ駆動で使うことは考えておらず、全く気にしていない部分だ。
サイズ396×293×21.8mm、重量2.8kg。これからも分かるように、気楽にいつもカバンに入れ持ち運べるものではなく、あくまでも“トランスポータブル”といった使い方となる。
そして価格は40万円を気持ち下回る。おそらくデスクトップPCの場合。Core i9、メモリ32GB、1TB SSD、GeForce RTX 4070(12GB)を組むと25万円前後だろうか。17型のパネルがあるので、それを差し引いても、かつデスクトップPCを担いで歩くわけにも行かず、割高となるのは仕方ないところ。
筐体はトップカバーがCNCフライス加工、ほかは金属でマットブラック。後ろ側にRGB Fusionライトバー……など、ゲーミングPCらしい雰囲気を醸し出す。
重量は仕様上重量2.8kg。正確に測ったわけではないが、撮影時持ち運んでいるニコンD800E(縦位置グリップあり)、85mm F1.4など単焦点レンズ4本、予備バッテリ……とおおよそ同じ感じではないだろうか。まぁ、いつもは嫌だが(笑)、今日は！という時、持ち運べない重量ではないと思った(余談になるが普段使いはX-S10と35mm)。
前面はパネル中央上にフルHDのWebカメラ。左側面にUSB 3.1×2、3.5mmジャック。右側面にUSB 3.1×1、Thunderbolt 4。そして背面に電源入力、HDMI、Mini DisplayPort、Ethernetを配置。机の上で使う時、主なケーブル類が後ろなので邪魔にならない点が良い。裏はバッテリが着脱式ではなく本体内蔵タイプだ。
ACアダプタはサイズ約185×84×35mm、重量993g、出力19.5V/16.92A(330W)。さすがに結構大きくそして重い。本体を持ち出す時、同時に必要なので、合計すると約3.8kg。ちょっと気合いが必要となる。
17.3型のディスプレイは出先でデモもという意味もあり大きめを選んだ。2,560×1,440ドット(16:9)、非光沢、240Hz、DCI-P3カバー率100%、TÜV Rheinland認証取得。明るさ、コントラスト、発色、視野角などは十分以上で用途的に240Hzはもったいないほど(笑)。ただアスペクト比は少なくとも16:10は欲しかった。
i1 Display Proを使い特性を測ったところ、最大輝度288cd/平方m。写真の鑑賞/編集で最適とされる標準の明るさ120cd/平方mは、最大から41%が121cd/平方m。黒色輝度は0.111cd/平方mと少し浮いているがIPSパネルなら一般的。リニアリティはかなりいい。但し補正はRとBが気持ち下げられている(=補正前は赤(紫)っぽい)。
キーボードはプログラマブルなRGBバックライト搭載でのUS配列+テンキー。後述するGIGABYTE CONTROL CENTERで設定可能だ。ストロークが2mmと少し深めだが打鍵感もゲーミング用途を考慮しており申し分ない。タッチパッドも十分広く加えてガラス製。非常に滑らかに操作できる。
しかし、個人的にテンキーありキーボードは苦手。理由はキーボードの中心がテンキー分、大きく左へズレるから。タッチパッドを使うにしても画面を見るにしても扱いにくい。ただWindowsマシンで16型以上になるとほとんどテンキー付き。うーん、と言ったところ。
今後、この手のノートPCはゲーミング用途だけでなく、AI用途も考えられるので、パネルのクオリティを落としたりOLEDにしたり、RGBキーボードバックライトを白のみなどにし、少しコストを下げたモデルもありだろう(できれば加えてテンキーなしで空いた左右にスピーカー)。
前面カメラは軽く試したところ一般的なWindowsノートPCレベル。普段オンライン会議などで使っているMacBook Pro 14内蔵のカメラと比べると、残念ながら比較にならない感じだ。
BIOSは起動時[F2]。内部へのアクセスは裏パネルのネジをすべて外せばOKのはず。周囲に12+中央付近にシール付きが2本あり、外そうとしたところ手持ちの6角よりさらに細く撃沈。後日T6/T5/T4と3本購入しT6が正解だった。
計14本ネジを外すと、あとは裏パネルが爪で引っかかっているので根気よく外す。コツは、有線LANポーhとの下の部分にパネルが直接見えているので、それをマイナスドライバを使って押せば爪が外れ後ろ中央が持ち上がる。ここから順にほかを外して行けばOKだ。
内部は予想通り、SO-DIMMスロット×2。ここには16GB×2が装着済み。バッテリの左側にM.2 2280の空きがあるのでSSDを増設可能。フットプリントが大きい割にギッシリ詰まっているのには結構驚いた。
発熱はWINDFORCE Infinity冷却技術を採用し、大型ベイパーチャンバー搭載、4ファン、2ヒートパイプ、4排気口など工夫を凝らしており、構成を考えるとそれほど熱くない方だと思うが、それでも一般的なノートPCと比較した場合、熱もノイズも出る。これは仕方ないだろう。
サウンドは、裏にスピーカーがあり、机などに反射して耳に届くのは間接音となる。ゲーミング用ということもありパワーは十分なのだが、音質は正直今一歩だ。DTS-X Ultraを使い、音色はコントロール可能なのだが、ノートPCっぽいシャリシャリした感じは残ったまま。もっと小さいノートPCやタブレットでも「お!」っと思う機種があるので、ここは頑張って欲しい部分だ。
一般的なノートPCとは桁違いのパフォーマンス!
初期起動後に行なったことは、リモートデスクトップの有効化と、OpenSSH サーバーのインストール、そしてWindows Update程度。その後、GIGABYTE CONTROL CENTERがあることを知り、いろいろな設定やアップデートなども行まった。
後は、GitやMiniconda、生成AI系のアプリやモデルを個別にインストール。特にトラブルこともなく順調に、そして快適に運用できている。
ストレージのM.2 SSD 1TBは「GIGABYTE AG470S1TB」。同社のサイトでGP-AG70S1TBと言うのがあり、仮にAG4がGen4の意味なら同じとなる。仕様によるとSequential Read: 7000 MB/s、Sequential Write: 5500 MB/s。CrystalDiskMarkのスコアともほぼ一致する。C:ドライブのみの1パーティションで約933GBが割り当てられている。
2.5GbEはRealtek Gaming 2.5GbE、Wi-FiはIntel Wi-Fi 6E AX210 160MHz、BluetoothもIntel製だ。NVIDIA Control PanelによるとGeForce RTX 4080 Laptop GPUはビデオメモリ12GBでCUDAコア7,424なのが分かる。
主なソフトウェアは、GIGABYTE CONTROL CENTER以外は特にない。このアプリは名前の通り本機のキーボードLED設定、ファン設定、アップデートなどが行なえるツールだ。キーボードLEDは白単色変更、BIOSも含め最新へアップデートした。
ベンチマークテストは、PCMark 10、3DMark、Cinebench R23、CrystalDiskMark、PCMark 10/BATTERY/Modern Officeを使用。どれも普段試用しているノートPCやミニPCとは比較にならないスコアが出ている。特にGPUが関連する項目が凄まじい。さすがと言ったところ。またストレージも速く、全体的に高いレベルで揃っている。
1つだけ劣るとすればバッテリ駆動時間の3時間48分。これは当初から想定内なので、用途的も特に問題にはならない。
| PCMark 10 v2.2.2701 | |
|---|---|
| PCMark 10 Score | 8,446 |
| Essentials | 11,259 |
| App Start-up Score | 16,272 |
| Video Conferencing Score | 8,230 |
| Web Browsing Score | 10,660 |
| Productivity | 10,107 |
| Spreadsheets Score | 13,397 |
| Writing Score | 7,626 |
| Digital Content Creation | 14,370 |
| Photo Editing Score | 18,962 |
| Rendering and Visualization Score | 17,341 |
| Video Editting Score | 9,026 |
| 3DMark v2.29.8282 | |
| Time Spy | 16,566 |
| Fire Strike Ultra | 10,951 |
| Fire Strike Extreme | 19,943 |
| Fire Strike | 27,928 |
| Sky Diver | 77,198 |
| Cloud Gate | 49,897 |
| Ice Storm Extreme | 220,666 |
| Ice Storm | 238,483 |
| Cinebench R23 | |
| CPU | 21,042 pts(3位) |
| CPU(Single Core) | 1,925 pts(1位) |
[Read]
SEQ 1MiB (Q=8, T=1):6,752.636 MB/s [6,439.8 IOPS] < 1231.72 us>
SEQ 1MiB (Q=1, T=1):3,466.394 MB/s [3,305.8 IOPS] <302.23 us>
RND 4KiB (Q=32, T=1):1,092.875 MB/s [266,815.2 IOPS] <116.10 us>
RND 4KiB (Q=1, T=1):87.927 MB/s [21,466.6 IOPS] < 46.51 us>
[Write]
SEQ 1MiB (Q=8, T=1):5,002.388 MB/s [4,770.6 IOPS] < 1673.28 us>
SEQ 1MiB (Q=1, T=1):3,960.093 MB/s [3,776.6 IOPS] <264.58 us>
RND 4KiB (Q=32, T=1):834.838 MB/s [203,817.9 IOPS] <155.29 us>
ND 4KiB (Q=1, T=1):331.536 MB/s [80,941.4 IOPS] < 12.29 us>
肝心のAI関連は!?
まずいつもの512×768: 神里綾華ベンチマークで生成速度を測定してみたい。結果は11.37(it)/22秒(10枚)。少し前にご紹介したOCuLink接続のGeForceRTX 3090が12.92(it)/18秒(10枚)だったので結構いい勝負。同サイトに載っているデータを見るとRTX 4070とほぼ同等のスコアだ。冒頭に書いたLaptop RTX 4080 ≒ Desktop RTX 4070と言う構図が成り立っている。これならVRAM不足になるような処理をしない限りOKとなる。
SD 1.5は上記の通りであるが、SDXLを生成してみると30 Stepsで1枚11秒。VRAMは7.1GBほど使用。ADetailer(顔だけ別途詳細に描く機能)使用時は17秒でVRAMは一瞬9GBへ跳ね上がる。
フルHDへアップスケール(1.58x)だと約22秒(ADetailerなし)。VRAMは一瞬12GBを超え16GB+α使用する。この時、不足分はRAM(メインメモリ)でとなるが(ビデオメモリオフロードはONのまま使用)、一瞬なので然程速度低下は招いていない。これなら十分許容範囲だ。
次にLLM。筆者は普段、上記のOCuLink接続RTX 3090で「Phi-3-medium-128k-instruct-Q8_0.gguf」を使っているが、ビデオメモリ12GBだとLM Studioの一覧でグリーン(つまりON VRAM)にならず、Q4_K_M.ggufを使う必要があった。またレスポンスも少し遅い。AUTOMATIC1111の結果が良かっただけに期待したものの、LLMではイマイチと言うところ。またVRAM容量的に、生成AI画像かLLMか、どちらか一方のみの起動となる。
最後は学習。SD 1.5の顔LoRAを10枚の写真から作ったところ(2,000 Steps)、処理時間は約11分。VRAM消費量は5GB。これがGeForce RTX 4090だと5分未満。この差は仕方ない。ただ待てばできる……ということが重要だったりする。
SDXLの場合は、同一設定で4倍ほど時間がかかり、VRAM消費量は8GBほど。それよりGPUの温度が80℃超える方が気になると言えば気になる。
以上、生成AI画像、LLM、そして学習と一通り試したことになる。普段GeForce RTX 3090やGeForce RTX 4090を使っているだけに、いろいろ大丈夫かな？っと思っていたが、それなりに良く動く印象だ。持ち運び可能な環境でこれなら今のところ十分と言えよう。
一般的な企業の通常業務で、GeForce RTXを搭載したPCなど普通に使われているはずもなく(仮にあっても余っていない)、そこでの作業となると、どうしてもこの手の持ち運び可能なノートPCが必要となる。カテゴリ的にはハイエンドゲーミングPCだが、「実はAI用途でも使える」ということを知っていただければ幸いだ。
ちなみにAIと言えばここのところ話題の「Copilot+ PCは？」……となるが、INT8な40TOPS程度のNPUで何をすればいいのだろう!?(笑)。模索は続く。
