「イラン女子校襲撃はred lineに当たらない」 — Amodei発言を批判するBreaking Pointsの論点整理

司会は「安全と倫理を最も前面に出すAI企業」であるはずのAnthropicとそのCEO Dario Amodei氏の最新インタビューを取り上げた。問われたのは、イラン・マナブの女子校襲撃でAIモデルがどのように関与した可能性があるかというデリケートな点だ。

Amodei氏は「モデルが実際にどう使われたか正確にはわからない。戦争で起きるミスは本当に痛ましい。ただし、いま語られているユースケースは我々のred linesにすら違反していない」と回答。司会らは「女子校を狙って100人超を殺害した事案がred line違反でないと言うのなら、その基準は何のために設定されているのか」と強い言葉で批判した。

番組は同時に、Amodei氏がPentagonとの議論で「人間が判断に一切関与しない完全自律殺傷システム」の受託を断った経緯にも触れている。これによりPete Hegseth国防長官の不興を買ったとも言われ、業界基準で見れば確かに「もっとも歯止めをかけようとしているCEO」の一人だ。

だからこそ番組は『その彼ですらこの程度の回答にしかならないなら、業界全体のバーがいかに低いかが浮き彫りになる』と指摘する。倫理派CEOと『red line違反ではない』回答が同居している事実が、AI業界の現状をよく示しているという読み方だ。

話題はStanfordの卒業式に飛び、Sundar Pichai氏の祝辞中に学生が大規模なwalk outを行ったエピソードへ。直接の発端はGoogleとIDFの契約だが、ガザがAI軍事技術のテスト場になっているとの認識と結びついており、commencementでAIに触れたスピーカーがブーイングを受ける流れも生じている。

後半では、Ringカメラの映像を警察が「半径10ブロック分まとめて匿名提出してください」と要請できる構造や、その映像がAI訓練データへ流れる可能性まで議論。『政府には少なくとも投票がある。Meta株を500ドル分買って意見できる程度の株主に過ぎない我々は、AIを握る私企業に対して何のコントロールも持たない』という構図を、最大の懸念として整理している。