OpenAIを辞めて1兆ドル企業へ：Dario Amodei氏とAnthropicの5年間

Dario Amodei氏は12年前、中国のナビゲーションシステムを開発する企業でコードを書いていた一人のエンジニアだった。その2年後、シリコンバレーで小さなチームとともに取り組んでいたプロジェクトが、後にOpenAIの運命を変えChatGPTを世界に広めることになる。

しかし彼はそこで立ち止まらなかった。同じ小さなチームとともに2020年に創業した会社は、わずか5年で評価額1兆ドルに到達した。Appleが42年、Googleが21年、Metaが17年かけて達成した記録を、彼はその5分の1にも満たない期間で塗り替えたことになる。

Amodei氏が生み出したAIモデルは、米国の大企業から政府までを警戒させる存在となり、政府はこのモデルをミサイルや機密兵器と同じ輸出規制カテゴリーに分類した。皮肉なことに、アリババのような中国の大手企業がこのモデルを使って自社AIを無断で学習させていたとも報じられている。

Anthropicは、AIに善悪の判断を教える従来の人手評価方式（コストが高く不透明）に代わり、モデル自身が『憲法』と呼ばれる原則文書に照らして自己検証・自己修正する仕組みを開発した。この憲法には1948年の世界人権宣言など人類史上の主要文書の理念が組み込まれ、『有用（Helpful）・誠実（Honest）・無害（Harmless）』という3原則に集約されている。

Anthropicは米国政府を相手取り訴訟を起こしている一方で、報道によれば政府の一部組織は今もひそかにClaudeを利用しているという矛盾した状況がある。Amodei氏が生み出したモデルは世界最強クラスの性能を持つが、それが悪意あるハッカーの手に渡れば、核ミサイルの管理システムから銀行間の巨額取引、ダムの制御まで、コンピュータ化されたあらゆる重要インフラが危険にさらされかねない。

こうした強大な力と潜在的リスクの両方を併せ持つ人物として、Amodei氏は『第二のオッペンハイマー』とも呼ばれている。