Claude Fable 5の隠れた品質低下が3日で謝罪へ至った炎上の構造

Anthropicは今回、本体モデルの「Mythos 5」と一般向けの「Fable 5」を同時にリリースした。中身は同じAIで、Mythosは制限なしで一部の企業や研究者だけに提供。Fableは安全装置を組み込んだ一般版という整理だ。

Fable 5の安全装置は、サイバー攻撃や生物兵器のような危険用途を検知した場合に、性能を抑えた前世代モデルへ自動で切り替えるという仕組みだった。しかも切り替わった旨は通知される。つまり「見える形で止まる」設計に見えていた。

ところが、319ページに及ぶFable 5のシステムカードの中の、たった一段落に別の挙動が記載されていた。AI開発に該当する、つまりClaudeのような大規模言語モデル自身を訓練する作業や、大規模学習インフラを組む行動と判定されたリクエストだけは、ユーザーに見えない形でこっそり出力品質を落とす設計が含まれていた。通知も、切り替わった旨の明示も無い。

「見える形で止まる」と「見えない形で劣化する」の違いはどこにあるのか。答えは再現性が壊れることだ。実験が思う結果を返さなかったとき、原因は通常「自分のアイデアが悪い」か「実装が悪いか」の2つに絞られる。そこに「AIが黙って手を抜いたかもしれない」という第3の可能性が混ざると、何も確かめられなくなる。

炎上の燃え方も特異だった。匿名のネット民ではなく実名の有名研究者が次々と公開非難に回った。Hugging FaceのArthur Zucker氏は「親愛なるAnthropicへ。君たちは僕らの信頼を壊した。もう二度と取り戻せないと思う」と書き、元ホワイトハウスでAI政策を担当したDean Ball氏はこの仕掛けに「秘密のサボタージュ」と名前を付けた。Anthropic社員のBehnam Neyshabour氏まで、皮肉なジョークで反応した。

実害の報告も次々と上がった。医療物理学者を名乗るユーザーが流体力学の計算を拒否される、「こんにちは」だけでブロックされたといった見出しも海外メディアに出た。さらに根の深い批判として「社内の研究者は無制限に使え、社外の研究者だけが劣化版を渡される」「ヨーロッパの企業を永久に2軍に固定する仕組み」といった構造批判も飛び、普段はAnthropicに好意的な安全派研究者まで離反したのが今回の異例ぶりだ。

炎上の翌日、Anthropicはあっさり方針を認めた。声明は「我々は間違ったトレードオフをした。バランスを取り違えたことを謝罪する」というもの。AI開発に該当する判定も、他のカテゴリーと同じく見える形で切り替え、毎回通知する方式へ変更された。公開から謝罪までわずか3日という業界でも珍しい収束だ。

撤回前のAnthropicの理屈にも一定の論理はある。「見える安全装置は突破しようとする側に研究されてしまうため、見えない安全装置の方が対策されにくい」という考え方で、これはYouTubeのBAN理由が公開されないのと同じ構造でもある。ただし手の内を隠すことはユーザーの信頼を担保にした借金で、バレた瞬間に利子をつけて返すことになる。

話者は最後に、Anthropicの「倫理を看板にしたマーケティング」自体に踏み込む。1週間前にAIリスクを大声で警告した直後に最強モデルを公開、その上で株式上場準備中という流れは、倫理ブランドが最強のマーケである一方で最も燃えやすい看板でもあると示している、というのが投資家視点での総括だ。