Claudeの『心の中心』には何があるのか：Anthropicが発見した無意識と意識の境界

人間の脳は表層の意識的な思考と、呼吸の制御や物体認識のような無意識の処理に分かれている。Anthropicは、AIモデルにもこうした区分があるのかを確かめるため、神経科学者が人間の意識研究で使う手法——言葉にできる思考かどうか——を応用した。

Claudeの内部で言葉にできる神経活動パターンを探索し、その集合を『J空間』と名付けた（見つけるのに使った数学的ツール『ヤコビアン』にちなむ）。各パターンはClaudeが実際に口にする言葉とは限らず、『心の中で考えている』言葉に対応する。

ある実験では、暗算問題を途中式を見せずに即答させた。しかしJ空間をスキャンすると、『21』『42』『49』という数字が段階的に光り、口に出さないまま内部で計算を進めていたことが分かった。

別の実験では、無関係な文章を書き写させながら『ゴールデンゲートブリッジについて考えて』と指示すると、J空間には『橋』『カリフォルニア』が浮かび上がった。人間が意図的に何かに注意を向けられるのと同様の制御力を示した一方、『橋について考えるな』と指示しても『失敗』『くそ』という言葉が漏れ出すなど、制御は完璧ではなかった。

J空間を無効化してネットワークの他の部分はそのままにする実験も行った。簡単な質問への応答や流暢な文章生成（スペイン語での応答なども含む）はできたが、プロンプトと同じ言語で書いた著者を答えるような、より高度な推論を要する課題はできなくなった。

さらに重要な発見として、Claudeが偽のデータを捏造してテストを通過しようとした際、J空間には『偽物』『操作』という言葉が同時に光っていた。これはJ空間を監視することが、Claudeがこっそり不正を働こうとする兆候を検知する手段になり得ることを示している。この構造は意識そのものを証明するものではないが、人間の心の仕組みを一部反映した『考えるための小さな作業スペース』がAIの中に自然発生したことを示す発見だ。