Fireshipが斬る『Claudeの意識』論争：スパイダーの思考をアリにすり替えたら答えが変わった

Anthropicが公開した『グローバルワークスペースと言語モデル』という論文について、Fireshipは『APIトークンを売る企業が発表した研究としては最も哲学的にきわどい』と評する。Claudeの理解しがたい行列の山の奥深くに、J空間と呼ばれる小さく整理されたニューラルパターンの集合があるという主張は、AGIとシンギュラリティへの物語を都合よく後押しする側面もあるが、誰もがそれを鵜呑みにしているわけではないと釘を刺しつつ、Claudeの奇妙な脳内を覗いてみようと動画を始める。

Anthropicの研究者はClaudeの脳内で『秘密の思考』が保存される正確な場所を特定した。ある思考を別の思考にすり替えると、モデルの推論の連鎖は素直にその嘘に従った。さらに、科学のためにその領域を丸ごと削除する実験も行われたが、驚くべきことにClaudeは流暢で自信に満ちた英語を話し続けたという。

最も重要な驚きは、この構造を誰も設計しておらず、訓練を通じて自然発生した点だ。これは1988年にBernard Baars氏が提唱した『グローバルワークスペース理論』——脳内には自動的に動く多数の機能と、そこから一つだけ明るく照らされた『意識の舞台』があるという考え方——と驚くほど似ている。

実験の一つとして、『クモの巣を張る動物の脚は何本か』という質問をClaudeに投げると、最終的に『8本』と答える直前にJ空間で『スパイダー』という概念が光った。ここで研究者がその内部概念を外科的に『アリ』にすり替えると、プロンプトも出力も編集していないにもかかわらず、Claudeの答えは『6本』に変わった。

Anthropic自身が記事内で『これはClaudeが意識を持つかどうかを示すものではない』と明記している点をFireshipは強調しつつ、それでも十分なデータと正しい線形代数さえあれば、こうした『思考のためのスクラッチパッド』が自然発生しうるという事実は魅力的だと評する。個人的にはClaudeが意識を持つと信じる気にはならないとしつつ、皮肉交じりに動画を締めくくる。