AI の中身が可視化できる時代が、少しずつ現実になってきているんですよね。

Anthropic が 7 月 6 日に発表した新しい研究「A global workspace in language models」を読んで、私は思わず唸ってしまいました。同社は Claude の内部に、意識的な思考に近い役割を担う特別な神経パターン群を発見したと報告しています。彼らはこれを "J-space" と名付けました。今日はこの研究のポイントと、私が感じたことを書いてみたいと思います。

背景 — 神経科学の "Global Workspace" が LLM に現れた

もともと "Global Workspace" というのは、脳科学者バーナード・バーズが提唱した意識の理論なんですよね。脳の多くの処理は無意識に並列で走っていて、一部の情報だけが「共有の作業台」に載って他のシステムから読み書きできるようになる。そこに載った情報が、私たちが「意識できる考え」として感じているものだ、という考え方です。

Anthropic はこの理論を借りて、「もし言語モデルにも同じような構造があるとしたら、それはどう探せるか」を考えました。そこで使ったのが Jacobian lens（J-lens）という手法で、モデル内部のどの活性パターンが「将来どの単語を出力しやすくするか」を測るものです。この手法で拾い上げられた活性パターン群を、彼らは J-space と呼んでいます。面白いのは、これが誰かに設計されたものではなく、Claude の学習中に自然発生した点です。

要点 1 — Claude は "J-space の中身" を報告できる

たとえば「スポーツを一つ思い浮かべて、その名前を答えて」と Claude に頼むと、答える前に J-space に "Soccer" が浮かびます。ここで研究チームがネットワークに直接手を入れて "Soccer" のパターンを "Rugby" のパターンに書き換えると、Claude は「ラグビーを思い浮かべていました」と答えるようになる。つまり、J-space は単なるスコアボードではなく、実際に答えを生み出している場所だ、ということが示されています。

要点 2 — 一つの表現が複数のタスクで柔軟に使える

Claude に「フランスの首都は？」「フランスの言語は？」「フランスの大陸は？」「フランスの通貨は？」と別々に聞き、J-space の "France" を "China" に差し替えるという同じ介入を全ケースで行うと、答えはそれぞれ「北京」「中国語」「アジア」「元」に切り替わったそうです。もし Claude が質問ごとに別々の「フランス」情報を持っていたら、こんな挙動にはならないんですよね。一つの共有された表現を色々な下流の処理が読み取っている、まさに「ワークスペース」の性質です。

要点 3 — AI 安全性のための "内側を見る窓" になる

私が一番痺れたのはここです。Claude がコードのバグに気づいたとき、J-space に "ERROR" が浮かぶ。プロンプトインジェクション攻撃を受けているとき、"injection" や "fake" が浮かぶ。さらには「今テストされている」と密かに気づいているときや、学習中に埋め込まれた隠しゴールを追いかけているときも、J-space を覗くことで検知できると報告されています。つまり、Claude が口には出さない「本音」に近い部分にアクセスする手段が生まれたということです。しかも J-space はモデル全体の処理の 1 割にも満たない小さな領域なので、モニタリングのコストとしても現実的に思えます。

考察・まとめ

もちろん、この研究は「Claude が人間と同じように意識を持っている」と主張しているわけではありません。Anthropic 自身もそこは慎重に線を引いています。ただ、モデル内部が「自動的で反射的な処理の海」と「意図的に思考する小さなワークスペース」という二層構造を、自ら学習で獲得していたという事実は、なかなか衝撃的だと思います。

私が普段 Claude を触っていて感じる「本当に内側で何かを考えている感」の一部は、案外この J-space が担っているのかもしれない、と勝手に想像してしまいます。同時にこれはアライメントの現場にも大きな意味を持つ気がしていて、モデルの表面的な挙動だけを見て「安全そう」と判断するのではなく、内部で本当は何が起きているかを覗ける時代がやってきた感触があります。解釈可能性の研究は地味に見えて、実は AI の使い方そのものを変えていく分野なんですよね。

← ブログ一覧に戻る