Anthropicが米政府の停止命令に従いつつ公に反論する異例の構図とAI規制の論点

テックアナリストのVarun Mayya氏は、米政府がAnthropicに対し「最強モデルであるMythosとFable 5を全員に対してオフにするよう」強制した点から解説する。引き金になったのは、国家安全保障を理由とした書簡で、外国籍の人物が米国内外でこの2モデルを利用することを禁じる内容だった。Anthropic社員の中の外国籍人物も対象に含まれていた。

同じサーバ上で動くモデルを「特定の利用者だけ遮断する」運用は技術的に成立しない。コンプライアンスのためAnthropicは両モデルを完全にオフにする選択を取り、結果として数億人規模の全顧客が一斉にアクセスを失った。

米政府が問題視したのは、Fable 5の安全装置を突破するジェイルブレイク手法が発見されたという主張だ。だが、Anthropicがその手法を確認したところ、それはモデルに「特定のコードベースを読み、ソフトウェアの欠陥を修正する」よう依頼するという、すでに公開されている他社モデルでも日常的に可能な操作にすぎなかった。

比較対象として明示されたのがGPT 5.5だ。同じ操作がOpenAIのモデルでも当然のように使われている。Anthropic側は「もしこの程度のジェイルブレイクで、数億ユーザーが使うモデルを停止させる基準を満たすなら、業界の全AIリリースが事実上凍結される」と反論している。

Anthropicは命令に従いながら公に反論するという、業界的に異例の対応を取った。Mayya氏はここに、これまで答える必要のなかった種類の問いがあると指摘する。「AIモデルがオンラインに留まれないほど危険だと決めるのは誰なのか、そして実際の証拠として何が認められるのか」という統治の問いだ。

Anthropic側は「これは誤解だと考えており、復旧に向けて働きかけている」とも述べている。動画は「続報を追う」と締めくくられているが、米国の安全保障行政がAI企業に対してこの種の即時停止権限を実際に行使した最初の主要事例として記録される可能性が高い。