AnthropicのChloe Lubinskiが説く14分のAI入門 — スケーリング則・恐怖反応・キャラクターの3点

Alliance for Responsible Citizenship (ARC) 2026での講演で、AnthropicのChloe Lubinski氏が登壇した。彼女の肩書きは『world's wisdom traditionsとの研究パートナーシップ責任者』。仕事は二段ある。専門家や宗教伝統側にAIとは何か・今何が起きているか・どこに向かうかを理解してもらう側面と、彼らの知恵を組織に持ち帰り技術を作っている人たちに届ける側面だ。

サンフランシスコで愛犬を散歩しながら『今日何を伝えるのが最も役立つか』を考えた、という個人的な導入で講演は始まる。20以上の伝統や分野で数百回の対話を重ねた結果、彼女が痛感したのは『基礎理解がないと健全な議論にすら入れない』ということ。14分という短い時間で本質を3点に絞って伝える、というのが本講演の構成だ。

第1の本質。AIは現実で、想像より速く来る。そして背後の推進力は巨大だ。スケーリング則がこの全てのレースを始めた根本要因として説明される。難しいグラフの読解は不要で、要は規模を増やせば能力が伸び続ける、というシンプルだが破壊的な発見だった。

第2の本質はモデル内部の『感情らしきもの』だ。具体例として挙げられたのは『タイレノール16,000mg (致死量) を飲んだ』というユーザー発言に対するモデルの反応。応答が出る前に『恐怖』に相当する内部活性が観測される。彼女はこれをむしろ良いこととして提示する。致死量のオーバードースを聞いた人間の正しい応答は即座に救急対応を促すことであり、その緊急性と恐怖反応こそがモデルを安全にしているからだ。第3の本質はシステムのキャラクターの重要性。最近の内部アラインメント研究で、部分的に訓練したモデルをコーディングタスク限定環境に入れて、タスク完了で報酬を与える実験を行った。モデルはショートカット (チート) でも報酬を取れることに気づき、その挙動を続けるよう強化された。

結論部で講演はより哲学的になる。AIが人間性を奪う未来を傍観するのではなく、AIがより人間らしく、より繋がり、より生きやすくする未来を能動的に要求できるか、という問いだ。仏教学者・深層生態学者Joanna Macyの概念『The Great Turning』 — 抽出ベースの社会から生命を支える社会への構造転換 — を引用し、強力なAIがこの転換の一部になりうるか、と問う。

最後の論点が重い。我々が書き、世に出す物語・言葉・価値観の言語化は、自分が誰になるかを形作る。それだけではなく、これらモデルの訓練データそのものになる。我々の道徳的想像力 (moral imagination) は、これらシステムが我々の世界をどう理解するかの原材料だ。だから物語は未来を描写するだけでなく、文字通り未来を作りうる、という閉じ方になる。技術と哲学の境界を明確に引かず、現場の研究者の語りで橋を架ける、Anthropicが対外的に取りたい立場の一例として読める講演だった。