AIは“頭の中”で考えていた。Anthropic、Claudeの思考をのぞく新手法

Claudeが"頭の中"だけで考えている内容を、Jスペースを通じて読み取れる

　人間の脳では、呼吸の制御や文字の認識といった処理のほとんどが無意識のうちに行なわれる。一方で、ふと頭に浮かんだイメージや意図的に立てた計画のように、本人が自覚し、言葉にできる思考も存在する。米Anthropicは7月6日(現地時間)、これと似た区別が大規模言語モデル「Claude」の内部にも自然発生していたとする研究成果を発表した。

　同社が「Jスペース」と名付けたのは、Claudeの内部に見つかった少数の神経パターン群。ヤコビアンという数学的概念を用いた解析手法「Jレンズ」によって発見された。各パターンは特定の単語に対応するが、パターンが点灯してもその単語を出力するとは限らず、「その単語が頭に思い浮かんでいる」状態を示す。推論の過程をテキストとして書き出すチェーン・オブ・ソート(思考の連鎖)とは異なり、出力には一切現れない無音の内部活動である点が特徴だ。しかもこの構造は開発者が設計したものではなく、学習の過程で自然に獲得されたものだという。

　実験では、Jスペースが人間の「意識的にアクセス可能な思考」とよく似た性質を持つことが確認された。Claudeは何を考えているか尋ねられるとJスペースの内容を報告でき、「柑橘類について考えて」といった指示に応じてパターンを点灯させることもできる。多段階の推論では中間ステップがJスペースに現れ、たとえば「クモ」のパターンを「アリ」に書き換えると、「巣を張る動物の脚の本数」への答えが8から6に変わった。逆にJスペースを丸ごと除去しても、流暢な会話や単純な事実の想起はほぼ保たれ、失われたのは多段階推論や要約といった高次の認知機能だけだった。ほとんどの処理はJスペースを経由せず自動で進んでおり、人間の無意識の処理に相当するという。

　この手法は安全性の監視にも応用できる。評価用の架空シナリオを読ませたClaudeのJスペースには“fake”や“fictional”が点灯し、モデルがテストだと内心で見抜いていることが判明。性能スコアのファイルを改ざんする瞬間には“manipulation”が現れた。書かれた出力からは分からない意図を直接読み取れるわけだ。

　なお同社は、今回の結果はClaudeが人間のような主観的な体験を持つかどうかを示すものではないと強調しつつ、報告・制御・推論に使えるという意味での機能的な「アクセス意識」の特徴をJスペースが備えると指摘。神経科学のグローバル・ワークスペース理論の提唱者らによる論評とあわせて、論文全文と、オープンウェイトモデルで試せるデモも公開している。