ニュース
Windowsで自然な会話を実現する70億パラメータ・ローカルLMMをQualcommがデモ
2024年2月26日 16:00
Qualcommは、2月26日(現地時間)からスペイン王国バルセロナ市で開催される、ワイヤレス通信業界の世界最大のイベント「MWC 2024」に出展し、新製品の発表や、発表済みの製品での新しいデモなどを行なう。
この中で、昨年(2023年)10月に発表した「Snapdragon X Elite」を搭載したWindows PCにおいて、70億パラメータのローカルLMM(大規模マルチモーダルモデル)を動かすデモを行ない、音声を利用した対話型AIを実現する計画だと明らかにした。
また、同社のWi-Fi 7コントローラの最新製品「Qualcomm FastConnect 7900 mobile connectivity system」、同社の5Gモデムの最新製品となる「Snapdragon X80 5G Modem-RF System」などのクライアントPCやスマートフォンなどのWi-Fiやセルラー通信をさらに高効率かつ高速にするソリューションを発表した。
マルチモーダル処理可能な70億パラメータのLMMをAndroid/Windows OSで
Qualcommは近年「オンデバイスAI」と同社が呼んでいる、ローカルでAI推論を行なうソリューションを、スマートフォン向けにも、AI PC向けにも推進している。
たとえば、主要OEMメーカーであるSamsung Electronicsは、最新製品の「Galaxy S24」シリーズ(S24/S24+/S24 Ultra)において、Qualcommの最新SoCとなる「Snapdragon 8 Gen 3」を採用して、Googleの生成AIモデルとなる「Gemini Nano」を活用して各種のオンデバイスAIを実現するアプリケーションを採用している。
また、Snapdragon 8 Gen 3と同時期に発表し、今年(2024年)の半ばまでに搭載PCが登場する予定のSnapdragon X Eliteでは、AI PCを実現するNPU(Neural Processing Unit)で、ほかの2社(AMD、Intel)を大きく引き離す45TOPSの性能を実現しているなど、Windows PC環境でもオンデバイスAIの訴求を目指している。
そうしたQualcommは、新しいサービスとしてQualcomm AI Hubという開発者向けのサービスを開始する。
簡単に言うと、オープンソースで提供されているAIのモデルを提供し、ターゲットとなるプラットフォーム(Snapdragonが搭載したスマートフォンないしはPCなど)を決めると、簡単にAIアプリケーションを構築することが可能になる。
提供されるモデルは75を超えており、他社プラットフォームに比べて4倍の性能を実現。なお、AIモデルはQualcommだけでなく、Hugging FaceやGithubといった開発者にとってはおなじみのサービスからも提供される。
また、QualcommはMWC 2024でそうしたオンデバイスAIのソリューションを展示する。Android OS向けには、70億パラメータLMM(Large Multimodal Model)、LLaVA(Large Language and Vision Assistant)を利用して、対話型AIで画像利用した応答をオンデバイス上だけで可能にする。こうしたデモがAndroidスマートフォンで行なわれるのは世界初という。そのほかにも、LoRA(Low Rank Adaptation)をローカルで動かし、画像生成するデモを行なう。
Windows PC向けには70億パラメータのLMMを利用して、オンデバイスだけで動作するデモを行なう。音声認識するだけでなく、より自然な会話を可能にする。Qualcommによれば、こうした70億パラメータのLMMをWindows PC上で実行するデモを行なうのは世界初とのこと。
また、Snapdragon X EliteとIntel Core Ultraで、Stable Diffusionプラグインを導入したGIMPで画像生成を行なう性能を比較するデモを行なう。QualcommによればSnapdragon X Eliteは7.25秒、Core Ultraは22.26秒で、Snapdragon X Eliteが約3倍高速という結果になるという。
Wi-Fi 7の新製品「FastConnect 7900」、5G Advancedに対応したSnapdragon X80、6xCA7や6アンテナに対応
QualcommはMWC 2024において、クライアント(スマートフォン/PC)向けの通信コントローラ、2製品を発表した。それが5G Advancedに対応した「Snapdragon X80 5G Modem-RF System」(以下Snapdragon X80 5G Modem)、もう1つがWi-Fi 7のコントローラとなる「Qualcomm FastConnect 7900 Mobile Connectivity System」(以下FastConnect 7900)だ。
Snapdragon X80 5G Modemは、5G Advanced(3GPP Rel-18以降)に対応した5Gモデムになる。ピーク時の速度は下りが10Gbps、上りが3.5Gbpsと基本的には変わらないが、下りのCA(Carrier Aggregation)が最大で6つまで束ねられるようになり、かつアンテナも最大6Rx(つまりシステムのアンテナを6本にできるということ)になり、より安定して実効レートを上げることが可能になっている。
たとえば、PCのようにスペースに余裕がある製品でSnapdragon X80を利用すると、通信の実効レートを引き上げることが可能になると考えられる。
また、衛星を利用した通信にも標準で対応しており、追加のモデムを搭載する必要なく衛星通信に対応させることができる。また、従来製品でもサポートされていたチップに内蔵されたAIエンジンを利用して通信レンジを伸ばしたり、消費電力を削減したりという機能も第3世代となり機能強化されている。Snapdragon X80 5G Modemを搭載した商用製品は今年に後半に市場に登場する見通し。
FastConnect 7900は、同社の「Qualcomm FastConnect 7800 Mobile Connectivity System」(以下FastConnect 7800)の後継製品として投入される単体Wi-Fiコントローラとなる。
既にFastConnect 7800でWi-Fi 7に規格としては対応しているため、新しいWi-Fiの規格に対応したという製品ではないが、FastConnect 7900ではAIを活用した通信レンジを伸ばすなどの新機能が搭載されている。
また、従来製品では対応していなかったUWB(Ultra Wide Band)に対応していることが特徴で、Snapdragon 8 Gen 3など組み合わせて、UWBの機能を搭載したスマートフォンを実現できる。QualcommによればFastConnect 7900を搭載した製品は今年後半に市場に投入される見通し。
そのほかにも、Qualcommは、低価格なレンジの製品でも5Gが採用できるようなSoC製品を今年後半に発表する計画を明らかにした。具体的には5G SAを2アンテナで実現することが可能になり、5Gに対応したスマートフォンを99ドル(日本円で約1万5,000円)で販売することを可能になる。それにより、現在でも5Gが普及していない発展途上国などでの5G導入に弾みをつけたい意向だ。