ニュース
NVIDIA、PC上で動くカスタムAI「Chat with RTX」を無償公開
2024年2月14日 11:35
NVIDIAは13日(米国時間)、PC上のローカルデータを使って自分にパーソナライズしたAIチャットボットを作ることができるツール「Chat with RTX」を公開した。GeForce RTX 30/40シリーズまたはNVIDIA RTX Ampere/Ada世代、かつVRAM 8GB以上のGPUを搭載したPCで利用できる。ツール自体は無償で入手可能。
外部の情報を用いて生成AIモデルの精度を高める手法であるRAG(Retrieval-Augmented Generation)に加え、NVIDIA TensorRT-LLM、NVIDIA RTXアクセラレーションを用いて、Windows PC上で生成AI機能を実現するツール。MistralやLlama2といったオープンソースの大規模言語モデル(LLM)に、PC上のローカルファイルをデータセットとして読み込むことで、「この前家族が教えてくれたオススメのレストランってどこだっけ?」といった、私的なユーザーの質問に対する回答をチャットボットが返してくれる。
クラウドを経由せず、ローカルPC上でGPUとデータセットを用いて処理するため、高速な処理が可能。また、機密性の高いデータについても第三者に共有することなく処理できるとしている。
データセットとしては、テキスト(.txt)、PDF(.pdf)、Word文章(.doc/.docx)、XML(.xml)などさまざまなファイル形式をサポート。ツール上からフォルダを指定すると、その中のファイルを読み込んで回答に活用する。また、YouTubeの動画やプレイリストのURLを読み込むことも可能で、その内容について尋ねることもできる。
楽天市場 売れ筋ランキング
Amazon売れ筋ランキング
Anker Soundcore P40i (Bluetooth 5.3) 【完全ワイヤレスイヤホン/ウルトラノイズキャンセリング 2.0 / マルチポイント接続 / 最大60時間再生 / PSE技術基準適合】ブラック
¥7,990
Anker Soundcore Life P2 Mini【完全ワイヤレスイヤホン / Bluetooth5.3対応 / IPX5防水規格 / 最大32時間音楽再生 / 専用アプリ対応】ブラック
¥4,490
イヤホン bluetooth ワイヤレスイヤホン 48時間の再生時間 重低音 LEDディスプレイ表示 小型/軽量 IPX7防水 ブルートゥース 接続瞬時 Hi-Fi ブルートゥースイヤホン Type-C 急速充電 ぶるーとぅーすイヤホン iPhone/Android/Pad適用 スポーツ/通勤/通学/WEB会議 (ホワイト)
¥39,999
Anker Soundcore Liberty 4(Bluetooth 5.3)【完全ワイヤレスイヤホン/ウルトラノイズキャンセリング 2.0 / 3Dオーディオ / ワイヤレス充電/マルチポイント接続/外音取り込み / 最大28時間再生 / ハイレゾ / IPX4防水規格 / ヘルスモニタリング/PSE技術基準適合】ミッドナイトブラック
¥14,990
Apple AirPods Pro 2 + 延長2年 AppleCare+ for Headphones - AirPods Pro
¥42,792
GBAD (Number_i Remix) [Explicit]
¥250
もうどうなってもいいや
¥250
もうどうなってもいいや
¥250
GBAD (Number_i Remix) [Explicit]
¥250
TWILIGHT!!!
¥250
by Amazon 天然水 ラベルレス 500ml ×24本 富士山の天然水 バナジウム含有 水 ミネラルウォーター ペットボトル 静岡県産 500ミリリットル (Smart Basic)
¥1,173
い・ろ・は・すラベルレス 2LPET ×8本 【Amazon.co.jp限定】
¥1,104
コカ・コーラ い・ろ・は・す天然水ラベルレス 560ml ×24本
¥2,131
by Amazon 炭酸水 ラベルレス 500ml ×24本 強炭酸水 ペットボトル 500ミリリットル (Smart Basic)
¥1,512
【Amazon.co.jp限定】アイリスオーヤマ 天然水 2L ×9本 ラベルレス 富士山の天然水 バナジウム含有 水 ミネラルウォーター ペットボトル 静岡県産 ケース 2リットル ボトル 2000ml
¥1,154