Okta CEOが語る『AIエージェントの暴走』対策:野良AI無断使用47.5%時代の防御線
TL;DR · この記事で分かること
- 1 Okta共同創業者兼CEOのTodd McKinnon氏が来日し、AnthropicのClaude Mythosへ最速でアクセス許可を得た企業の一つとして招かれた。
- 2 Claude Mythosがセキュリティ脆弱性を従来より圧倒的に速く発見できることが分かり、業界がその意味を誤解している部分もあると指摘する。
- 3 あらゆる技術——OS・ウェブサイト・業務システム——がエージェント化していく変革はまだ初期段階にあり、初期のウェブサイトが単純だった頃と似た状況だと例える。
- 4 今後2〜3年でAIエージェントは企業側のより多くのデータと接続され、顧客の購入履歴やサポート対応履歴まで把握するようになると予測する。
- 5 『キルスイッチ』とは、システムに問題が検知された際に中央の制御システムから接続を遮断し、エージェントに実害を及ぼさせない仕組みのことだと説明する。
- 6 キルスイッチは手動でも、リスク検知システムが自動でも発動でき、Oktaはあらゆる接続を管理しているからこそこの機能を提供できる立場にあると語る。
- 7 変化に最も開かれた者、適応する者こそが生き残るとし、複数のシステムをつなぎ可視性を確保する『後悔しない投資』を今のうちに進めるべきだと助言する。
スライドで読む
全 3 スライド
Claude Mythosへの最速アクセスと業界の誤解
アイデンティティ管理企業Oktaの共同創業者兼CEO、Todd McKinnon氏が2度目の来日を果たし、AIと業界動向への関心の高さを実感したと語る。同社はAnthropicのClaude Mythosへ最速でアクセス許可を得た企業の一つで、セキュリティ脆弱性を従来よりも圧倒的に速く発見できる性能に強い関心を持ち、自社ソフトウェアと顧客の安全確保のため即座に評価を始めたという。一方で日本の企業やセキュリティ専門家と話す中で、業界がこの技術の意味を一部誤解している面もあると指摘する。
『まだウェブサイト黎明期』のようなエージェント化の現在地
OSやウェブサイト、企業の業務システムなど、あらゆる技術がエージェント化へと変貌していく変革は避けられないが、まだ初期段階にあるとMcKinnon氏は語る。これはウェブがまだ普及し始めたばかりで、各企業のサイトが電話番号とロゴだけの単純なものだった時期に似ているという。多くのベンダーが既にシンプルなAIエージェントを公開しているが、今後2〜3年でエージェントは企業側のより多くのデータと接続され、顧客の購入履歴やサポート対応履歴まで把握できるようになっていくと予測する。
『キルスイッチ』という防御機構
AIエージェントの暴走という予測不能なリスクに対して、Oktaが独自開発した『キルスイッチ』が防御線となる。これはシステムに何らかの問題が検知された際、中央の制御システムからエージェントとシステム間の接続を切断し、それ以上のデータ読み書きを不可能にする——つまりエージェントを『無力化』する仕組みだ。発動は手動でも、他のセキュリティ製品によるリスク検知に基づく自動発動でも可能で、Oktaがあらゆる接続を一元管理しているからこそ提供できる機能だという。
最後にMcKinnon氏は、変化に最も開かれた者、適応する者こそが生き残ると強調する。企業が今すべきことは、複数のシステムをつなぎ可視性を確保するという『後悔しない投資』を進め、市場がどう進化しようと最善の立ち位置を確保できるようにしておくことだと助言する。
編集部の視点
この対談が示す重要な論点は、AIエージェントのセキュリティ対策が『機能を止める』ことではなく『機能を安全に使い続けさせる』ことに主眼を置いている点だ。キルスイッチという発想は、エージェントの自律性そのものを制限するのではなく、異常検知時に接続を遮断する『サーキットブレーカー』として設計されており、生産性と安全性のトレードオフを緩和する現実的なアプローチといえる。日本企業の47.5%が無断で未承認のAIツール(野良AI)を使用しているという調査結果が番組タイトルに掲げられている背景を踏まえると、こうした接続の可視化・一元管理の仕組みは、シャドーIT対策の延長線上にあるAIガバナンスの必須インフラとして今後急速に重要性を増していくだろう。
出典
TBS CROSS DIG with Bloomberg
【日本企業の社員47.5%は“野良AI”を無断使用】「ミュトス」で防御を固める米CEO「まずパスワードが盗まれる」/AIエージェントの暴走は予測不能→「遮断スイッチ」を独自開発【1on1 Tech】
この記事はYouTube動画の字幕をもとにClaudeで自動要約しています。細部のニュアンスや正確な発言は元動画をご参照ください。
YouTubeで視聴する →関連記事
3 件
Fireship
Anthropic is starting to panic…
AnthropicはIPO申請でOpenAIを超える評価額を達成し、AI競争のトップ企業として公式に位置づけられた。
PIVOT 公式チャンネル
野嶋アナ専用AIエージェントを4時間で構築:21時間のリサーチ作業がクロードコードで10分に
PIVOT公式チャンネルが、MC野嶋剛アナウンサー専用のAIエージェントをClaude Codeで4時間かけて構築する様子を公開した。
AI Revolution
中国当局がClaude Codeに『バックドア』警告:位置情報の無断送信疑いで利用制限を要求
中国が自国のAI産業を締め付け始めている。アリババやByteDanceは7月15日にユーザー作成エージェントを停止する方針だと報じられた。