Bloomberg Media Studiosとキンドリルの共同制作記事

AIの急速な進化は、企業に新たな機会とリスクをもたらしている。経営層が生産性向上やコスト削減、事業成長に期待を寄せる一方で、CISOは急速に変化する脅威への対応を迫られている。これまで人による脅威への対応が中心だったCISOは、今やAIエージェントによる攻撃も想定した対策が求められている。AIエージェントは、大規模に活動できるうえ、人間による行動との判別が難しいという特徴がある。

テクノロジー系ベンチャーキャピタル企業Team8が実施し、昨年7月に公表した2025 CISO Village Surveyによると、サイバーセキュリティ・リーダーのほぼ4分の1が、過去1年間に自社がAIを活用した攻撃を受けたと報告している。

調査結果からは、実際の被害はさらに多い可能性もうかがえる。AIを活用した攻撃は人間の行動を巧みに模倣するため、従来の攻撃との判別が難しくなっている。キンドリルのサイバーレジリエンス＆コネクティビティ担当グローバルプラクティス・リーダーであるPaul Savillは、このような見えにくい脅威の拡大こそが、AIを活用した攻撃への迅速かつ的確な対応が求められる理由だと指摘している。

この緊急性に対応するため、CISOには従来の防御中心の考え方から、脅威を予測し、影響を最小限に抑えながら迅速に回復できるレジリエンス重視の体制への転換が求められている。

AIを活用した脅威は、不正なプログラムを送り込むだけでなく、システムの弱点を自動的に探し出す。 Team8のCISO調査の回答者は、サービスレベル・アグリーメントにおける重大な脆弱性の最大40%が未パッチのままであり、AIに悪用される経路が残されていると報告している。

Bloomberg Intelligenceの報告によると、2024年にエージェンティック系スタートアップへの資金調達はほぼ3倍に増加し、前年の13億ドルから38億ドルに達した。

Team8のCISO調査は、サイバーセキュリティの責任者がSavillの懸念を共有し始めていることを示しており、回答者の3分の1以上が、AIエージェントの保護を最優先課題に挙げている

AIエージェントの活用が広がる中、Savillは、インフラだけでなくAIシステム自体も保護する「ガバナンスに基づくイノベーション」の重要性を提唱している。これは、インフラストラクチャーだけでなく、AIシステムそのものを保護する方法である。

「ガバナンスは、安全にAIを拡大活用するための基盤です」とSavillは述べる。AIエージェントが業務プロセスに深く組み込まれる前に継続的な監視体制を整えることで、CISOはリスクを抑えながら、信頼性とレジリエンスを確保し、AIの活用を推進できる。企業はAIエージェントの運用を開始する前に、明確なルールを定める必要がある。
Savillは、AIエージェントを高度な権限を持つ内部利用者として管理すべきだと提唱している。すなわち、ミッションを定義し、行動を認証し、ポリシーを適用し、継続的に監視することだ。そのため、サイバーセキュリティチームには、「AIガバナー」という新たな役割が求められる可能性がある。この役割は、AI戦略、倫理、リスク管理を横断的に担う。

AIエージェントには、財務やカスタマーサポート、物流、セキュリティなど複数部門にまたがる高度な権限が付与される可能性がある。AIガバナーの役割は、「AIエージェントの目的は何か」「どのような役割を担うのか」を明確にすることだとSavillは述べている。AIエージェントの役割や権限、アクセス範囲、想定される状況での振る舞いを事前に明確に定義する必要がある。

Savillは、エージェンティックAIのガバナンスとデジタルトラストを実現するための4つのフレームワークを提示している。

• エージェントレジストリ：AIエージェントを業務で利用する際は、一覧を作成し、それぞれの役割や担当業務、権限を明確に管理する。
• 認証サンドボックス：Savillは、本番環境に近い検証環境を用意し、AIエージェントの動作を事前に確認・評価することを提案している。
• ポリシーエンジン：AIガバナーが必要に応じてAIエージェントの動作を停止・制御できる仕組みとして、AIエージェントの設計段階からセキュリティを組み込むことで、想定外の動作や独自ルールの生成を防ぎます。ポリシーエンジンは、問題が発生した際の迅速な制御を支援する。
• モニタリング：AIエージェントのパフォーマンスや信頼性、社内ポリシーへの準拠状況を継続的に監視・評価する体制を整える。