Claude Sonnet 5 は Anthropic 史上最悪のモデルか — WorldofAI の辛口検証
TL;DR · この記事で分かること
- 1 WorldofAI は Sonnet シリーズ最大のアップデートとして Sonnet 5 を紹介する。幻覚が減り、エージェント性能とツール利用が向上し、ブラウザやターミナルなど各種ツールを自律的に使いこなせる水準に達したと導入部で評価する。
- 2 ベンチマークでは Sway の Agentic Coding 検証で63.2%、Terminal Bench 2.1 で80.4%を記録。Opus 4.8 に肉薄する水準で、HLE や computer use、GDP Evolve では Opus を上回る項目も見られる。
- 3 総合ランキングでは第5位に位置づけられる。まだ評価が進行中のため順位は変動しうるとしつつ、全 Claude プランで既に利用可能になっている点を紹介する。
- 4 実演のMac OS クローン生成では、ランチパッド・Safari・メッセンジャー・カレンダー・音楽アプリ・FPS シューティングゲームまで一通り機能する形で生成された。ただし完成まで約40分、max モードで大量のトークンを消費しており効率は良くない。
- 5 検証の本題はここから。新しいトークナイザーの効率が予想を裏切る形で悪く、より多くのトークンを使うのに期待した結果が出ない。これが Opus 4.8 上位互換としての説得力を弱めている。
- 6 SVG などクリエイティブタスクではデザインセンスが GLM 5.2 にも劣ると評価。WorldofAI はこの点で GLM 5.2 以下にランクすると明言し、汎用用途でも Sonnet 5 の使用を勧めない立場を取る。
- 7 結論として『Opus 4.8 を使い続けたほうが良い結果が得られる』と断言。Fable 5 の近日再開に期待を寄せつつ、Sonnet 5 自体への評価は厳しいまま締めくくる。
- 8 アプリケーション全般が機能する点、SVG生成やトップバー・下部メニューの各種コンポーネントが正常動作する点は好意的に評価。地図アプリのみ Opus モデルの生成結果と比べて見劣りすると指摘する。
スライドで読む
全 3 スライド
ベンチマークは高評価 — Opus 4.8 に迫る数値
WorldofAI はまず好意的な導入で始める。Sonnet シリーズ最大のアップデートであり、最もエージェント性能の高い Sonnet モデル。幻覚が減り、エージェント性、ツール利用能力が向上し、ブラウザやターミナルなど各種ツールを自律的に扱える水準に達したと評価する。
ベンチマークの数字も具体的だ。Sway の Agentic Coding 検証済みスコアで63.2%、これは Sonnet 4.6 から大きく跳ね上がり Opus 4.8 に約6ポイント差まで迫る。Terminal Bench 2.1 では80.4%で Opus 4.8 に肉薄。HLE では81.2%とほぼ同水準、computer use と GDP Evolve では Opus を上回る項目もある。総合ランキングでは第5位に位置づけられ、全 Claude プランで既に利用可能だ。
Mac OS クローン実演 — 機能はするが効率が悪い
実演として Mac OS クローンを生成させる検証を行う。ランチパッド、Safari、メッセンジャー、メール、写真、カレンダー、ノート、リマインダー、地図、音楽アプリ、さらに FPS シューティングゲームまで、一通り機能する形で生成された。各アプリが SVG で生成されている点も見た目の良さとして評価される。
ただし懸念点も明確だ。完成まで約40分、max モードで大量のトークンを消費しており、効率の面では全く良くない、と WorldofAI は指摘する。地図アプリのみ Opus モデルの生成結果と比べて見劣りするという細部の評価も添えられる。全体としては『機能はするが手放しで褒められる出来ではない』という評価だ。
トークナイザーの効率悪化とクリエイティブ性能の低さが致命傷
後半で評価は一転する。最も驚いたのは新しいトークナイザーの効率だ。より多くのトークンを消費するにもかかわらず、新しいモデルに期待するような結果が得られない。この点が、Opus 4.8 の代わりにこのモデルを使う理由を正当化しづらくする、と WorldofAI は明言する。
SVG などクリエイティブタスクでは GLM のようなモデルにすら劣ると評価し、『GLM 5.2 以下にランクする』とまで言い切る。汎用用途を含め、このモデルを使うべきではないというのが結論だ。Fable 5 が近日中に再開されることへの期待を語りつつ、Sonnet 5 自体への評価は『Opus 4.8 を使い続けたほうが良い結果が得られる』という辛口な着地で締めくくられる。
編集部の視点
同時期に公開された Alex Finn の好意的レビューと本レビューを並べると、Sonnet 5 の評価は用途によって大きく割れることが分かる。ベンチマーク数値は両者とも認めるが、WorldofAI が指摘するトークナイザーの効率悪化とクリエイティブタスクの弱さは、単純なベンチマークスコアでは見えない実運用上の重要な欠陥だ。読者にとっての含意は二つある。第一に、新モデルのリリース直後はベンチマークだけでなく実タスクでのトークン消費効率を必ず自分で検証すべきで、レビュアーによって評価が真逆になる状況では単一のレビューを鵜呑みにするリスクが高い。第二に、Anthropic が主要モデルを短期間で連続リリースする現在のペースでは、評価が固まる前に本番導入するコストとリスクを慎重に見積もる必要がある。ベンチマークの高得点と実務での効率性は必ずしも一致しない、という基本原則を再確認させる回だった。
出典
WorldofAI
Claude Sonnet 5 IS OUT & ITS HORRIBLE! Worst Model By Anthropic EVER? (Fully Tested)
この記事はYouTube動画の字幕をもとにClaudeで自動要約しています。細部のニュアンスや正確な発言は元動画をご参照ください。
YouTubeで視聴する →関連記事
3 件
All-In Podcast
AnthropicのIPO、時価総額3兆ドル説も:All-Inポッドキャストが読む『2強寡占』の実態
All-Inポッドキャストが『兆ドル規模のIPOラッシュ』を特集。SpaceXの上場に続き、OpenAIとAnthropicも年内〜来年頭の上場が観測されているという。
Peter H. Diamandis
Fable 5復帰の代償『政府への3つの確約』、そしてClaude内部に見つかった『JSpace』
Anthropicの主力モデル『Fable 5』が7月1日にグローバル復帰。復帰の裏には米国政府との間で結ばれた新たな取り決めがあった。
Brock Mesarich | AI for Non Techies
Anthropic、Claude Cowork Mobileを発表:パソコンを閉じてもタスクは動き続ける
Anthropicは『Claude Cowork』のモバイル版をリリースし、これまでで最も要望の多かった機能の一つだと紹介する。