RAG検索を索引なしで高速化。意思決定AIで文書をたどる新手法「DecisionRAG」

　検索が見つけ損ねた情報は、どんなに賢い生成AIでも取り戻せない。AI検索のこの急所を、“文章を一切書けないAI”が補うかもしれない。米Cornell大学などの研究チームは10月26日(現地時間)、検索エンジンを一切使わずに文書を高速に探し当てる新手法「DecisionRAG」を論文投稿サイトarXivで公開した。268万段落のWikipediaが相手でも、1つの質問につき約2秒以内で根拠の段落を見つけ出す。

　DecisionRAGは、AIが回答前に外部の文書を検索して根拠にする仕組み「RAG(検索拡張生成)」の検索部分を、意思決定モデル(decision model)に任せる手法だ。意思決定モデルは、資料と質問を送信すると「はい/いいえ」や「選択肢のどれか」といった決まった形式で判断だけを回答するAIで、文章は生成しない。文章を書かないぶん1回の判断は一瞬で終わり、大量の候補をまとめて評価できる。この速さが、検索全体では従来方式の数倍から十数倍の高速化につながった。

　従来のRAGの検索は、キーワードの一致や、意味の近さを数値化した索引(埋め込み)との照合に頼ってきた。生成AIが急速に賢くなる一方で、探す側だけが素朴なまま取り残されてきたと論文は指摘する。検索が取りこぼした文書は、後段のモデルがどれほど高性能でも取り戻せないからだ。

図書館のように枝をたどる「DecisionRAG」の仕組み

　DecisionRAGの探し方は、図書館で本を探す人の動きに近い。文書の集まりを「トピック→文書→段落」という階層に整理し、各階層で意思決定モデルが「この枝は調べる価値があるか」を判定し、有望な枝だけをたどって下りていく。1つの階層の全候補は、原則として1回の問い合わせでまとめて同時に評価する。見込みなしと判定した枝の中身は、読まずに済む。

　精度の鍵は、候補を1つずつではなく同じ1回の問い合わせに並べて見せる点にある。ほかの候補と見比べたうえで点数を付けるため、点数同士の比較が正確になる。個別に判定した場合と比べ、対話検索ベンチマーク「MultiDoc2Dial」では正解を1位に出せた割合(R@1)が7.7ポイント向上した。

　判定役を務めるのは、追加学習していない既製の意思決定モデル「Jev 1.13」で、ChatGPTの前身の論文に名を連ねた研究者が9月に発表した“判断だけのAI”だ。今回の研究は、そのJevに適した使い道を外部の研究者が示した格好でもある。

従来の「探して並べ替える」2段構えを超える精度、検索1回は0.68～1.76秒

　成績は、正解を1位に出す力で従来型の検索を上回った。MultiDoc2DialのR@1は47.4%で、意味の近さで探すベクトル検索と、その検索結果を有望な順に並べ替え直す補助AI(リランカー)を組み合わせた場合の33.6%を13.8ポイント引き離した。268万段落のWikipediaを探す「Natural Questions」でも、1位正解率(Hit@1)は65.4%に達した。ベクトル検索の上位候補をGPT-5に文章生成方式で並べ替えさせた60.8%をも上回る数字だ。

　速度は桁が違う。検索1回は0.68～1.76秒で、GPT-5による並べ替えの11.8～15.0秒や、GPU1枚で動かした先のリランカーの3.3～14.3秒を大きく引き離す。費用は1回あたり0.22～2.33セント(約0.35～3.7円、1ドル=約158円換算)。階層ごとの判断が1回の問い合わせで済むため、所要時間は文書の総量ではなく階層の深さに応じてしか増えない。

　この速さは、枝を刈り込むことと引き換えでもある。一度外した枝には戻らないため、文書の整理や説明文の出来が悪い資料では、正解を早々に捨ててしまう恐れがある。研究チームは、残す枝を増やすか、ベクトル検索で見つけた上位候補を最後の選考に混ぜれば取り逃しを補えると説明する。実際に併用した構成では、4種類のベンチマークすべてで単独時より精度が向上した。

　成績が伸びる余地は、まだ大きい。一般公開されている「Qwen3-8B」を意思決定モデルへ鍛え直したところ、MultiDoc2DialのR@1は60.7%に達し、この課題向けに訓練された既存で最良の検索モデルを5.7ポイント上回った。

　判定役の意思決定モデルはすでに誰でも利用でき、Jevは開発元の米TypeSafe AIがAPI経由で一般提供している。米CloudflareはQwenを意思決定モデルへ鍛え直した「Clef」の重みを公開した。同じように重みが公開された意思決定モデルは、Clefのほかにもすでに多数ある。論文は、意思決定モデルが賢くなるほど、検索もその力をそのまま受け継げると結んでいる。