フロンティアAI時代、企業はサイバーセキュリティにどう備えるべきか

北野 晴人  キンドリルジャパン 理事、CCSO(チーフサイバーセキュリティオフィサー)

フロンティアAIについての日米政府の対応:日本はイノベーション促進とリスク対策の両立へ

 この数ヶ月ほどクロードミュトス(Claude Mythos)、及びその他の「フロンティアAI」については毎日のように状況が変化しています。その性能はサイバー攻撃者側による脆弱性の発見、悪用だけでなく、防御側による検知、対策も大きく加速させる可能性があります。 AIによって、攻撃側と防御側の双方が同じ高度な能力を利用できるようになり、従来の「攻撃対防御」という構図そのものが変わりつつあります。

 アンソロピックは米国時間2026年6月12日午後、米商務省の産業安全保障局(Bureau of Industry and Security)から緊急の輸出管理命令を受けました。命令は、アンソロピックの最新モデルである「クロードフェイブル 5(Claude Fable 5)」「クロードミュトス 5(Claude Mythos 5)」の2つについて、いかなる外国籍の人物による利用も禁じるものでした。これには、アンソロピックの自社オフィス内で合法的に働く外国籍のエンジニアも含まれており、すべてのログインについて個別に国籍をリアルタイムで確認する方法は存在しないため、アンソロピックは世界中の全顧客に対して両モデルの提供を停止しました。その後、クロードミュトス5については6月26日に一部の米国政府機関やパートナー企業に対してアクセス権が復旧し、米国内外の「プロジェクトグラスウィング(Project Glasswing)」に参加する組織へのアクセス拡大に向けて調整を続けるとしています。クロードフェイブル5については7月1日から世界中のユーザーに提供が再開されています。

 オープンAIは最新のモデルであるGPT‑5.6 シリーズについて、その公開に先立ち、米国政府との継続的な協議の一環として、これらのモデルの能力および今後の計画について事前に共有したと公表しています。そして政府からの要請に基づき、政府に参加情報が共有された少数の信頼できるパートナーを対象に限定的なプレビューを開始しています。このような動きは、2026年6月2日にドナルド・トランプ大統領が署名した 大統領令(Executive Order)14409「Promoting Advanced Artificial Intelligence Innovation and Security(先進的AIのイノベーションと安全性の推進)」 に関連していると想定され、政府による事前評価制度を創設している点(対応は任意)が注目されています。

 日本政府は既に金融庁から金融機関に対して「『フロンティアAIによる脅威変化を踏まえた金融機関等の短期的な対応』に係る要請について」という要請が行われており、他にも「Project YATA -Shield」が公開されています。また、政府はAI技術を積極的に活用しながら、同時に「軍事転用可能なデュアルユース(軍民両用)であり、安全保障上の戦略的な重要技術」と位置付けて慎重な対応をしています。日本にはAI推進法(人工知能関連技術の研究開発及び活用の推進に関する法律)がありますが、罰則のない基本法であり、EUで成立している「人工知能に関する統一規則を定める欧州議会・理事会規則(Artificial Intelligence Act)」のような法律による厳格な規制は行われていません。日本の対応は「イノベーション促進とリスク対策の両立」を志向していると考えられ、EUのような厳格な規制とは異なる方向に進んでいます。

組織が対応する際の留意点:リスクベースで対応し過剰投資を避け、リーズナブルな運用へ

 すでに「リスクを上回るスピードで守る:AI時代に求められるセキュリティ対応力」で述べられているとおり、クロードミュトスは「ソフトウェアの脆弱性の発見および悪用において、極めて高度なスキルを持つ人間を除くほぼ全ての人間を凌駕する」とされ、世界に大きな衝撃を与えています。フロンティアAIの進化によって、脆弱性の発見から悪用までのスピードは飛躍的に加速しています。こうした変化は攻撃者だけでなく、防御側にとってもAIを活用して劇的に対策を高度化、迅速化する機会をもたらしています。これからは、防御側もAIを活用し、これまで以上のスピードで脆弱性を把握し、対応していくことが重要になります。一方でAIは新たな脆弱性を生み出すのではなく、既存の脆弱性を、より高速、より広範に露呈させるのです。そのため、企業に求められる対策の多くは従来から変わりません。AIを活用して対応スピードを上げながらも、いたずらに振り回されることなく、リスクに応じて冷静に優先順位を見極め、基本的なセキュリティ対策を着実に実施していくことが必要です。これから対策を検討・実施する際に留意すべき点を以下に挙げます。

  • システムのライフサイクル全体を見る
     サイバー攻撃への対策を考える時「脆弱性を検査し、攻撃者より先に修正する」ということはもちろん重要ですが、一時的な脆弱性検査やパッチ(修正プログラム)適用に留まることなく、システムやそれを構成するソフトウエアのライフサイクル全体を見渡して対応することも同じく重要です。システム開発・構築の段階で脆弱性を作らないようにするための対策や、攻撃を受けた際に迅速に検知・対応し、復旧させるための対策は従来から取り組んでいるものですが、フロンティアAIによる構造変化に対応するために拡充する必要があり、これらもAIを使った改善が望まれます。

  • リスクベースで優先度を決める
     数多くのシステムを保有・運用する組織では、全ての脆弱性に対してパッチ適用を、同じスピードで行うことは非常に困難です。そのため優先度を決めて、重要なシステムから段階的に対応せざるを得ません。優先度を検討するためにはCVSS(Common Vulnerability Scoring System:脆弱性評価システム)で示される脆弱性の深刻度、SSVC(Stakeholder-Specific Vulnerability Categorization:ステークホルダーに特化した脆弱性分類)が示す「実際に攻撃が発生しているか」といった指標に加え、自社のシステムで利用しているソフトウエア(コンポーネントやバージョン、既知のパッチ適用有無など)と、システムが支えている業務を組み合わせて事業継続リスクを評価し、最も重要なシステムから対応することで効率的な対応が可能になります。パッチ適用をいつまでに実施するか、という点については最近米国で公表されたBOD 26-04が参考になるでしょう。

  • 攻撃者のタイプを想定する
     さらに、世界中のシステムがAIを使って発見した脆弱性を使って直ちに攻撃を受けるのか?といえば、必ずしもそうとは限りません。サイバー攻撃を行う攻撃者には様々なタイプが確認されていますが、特に注意すべきなのは、高い技術力を持つ「国家支援型の攻撃者」と「金銭を目的とした高度なサイバー犯罪者集団」だと言えるでしょう。
     国家支援型の攻撃者は闇雲に攻撃してくるわけではなく、背後にある国家の政治目的達成を支援するために、特定のタイミングで攻撃してくると想定されます。そのため、必ずしも脆弱性を発見したから即座に攻撃してくるというわけではありません。また、金銭を目的としたサイバー犯罪者集団については、近年分業化が進み、エコシステムが構築されているため「AIを使って脆弱性を発見した人」と「攻撃する人」が必ずしも同じではありません。例えば英国国家サイバーセキュリティセンター(NCSC:National Cyber Security Centre)のレポートにあるように、自らの技術力に応じて他人が開発した不正アクセスツール(ランサムウエアを含む)やアクセス情報を購入し、攻撃することもできると言われています。この場合も、脆弱性が発見された直後に攻撃を受けるとは限りません。

誰が攻撃してくるのか?国家支援型の高度な攻撃者を想定する必要があります​

01
国家支援型の攻撃者: 政治目的を達成するための攻撃を行い、軍事的な戦争行為の一部になる場合もある人・モノ・金が潤沢で​極めて高度な攻撃を行う
02
テロリスト: 武装組織など、国家ではないが似た形態をとる
03
サイバー犯罪者集団: 主に金銭目的の組織的な攻撃者で、分業化が進み、多くの組織で高度な攻撃が可能となっている
04
産業スパイ: 技術情報、知的財産を盗む。兵器、半導体、製薬など多くの分野で知財摂取を狙っている
05
ハクティビスト: 特定の政治的思想等で攻撃する。国際的な紛争に呼応する場合もある​
06
愉快犯・興味本位の攻撃者: 若年者のゲーム不正等を含む、組織的でない攻撃が多い
07
内部犯行: 内部関係者の怨恨・金銭目的などによる情報持ち出しやシステム破壊行動が行われる​
 
太字:特に注意すべき攻撃者​  
※複数の属性を併せ持つ攻撃者もあり得る​​

 これらのことから、業種や業界、事業の特性などを考慮し「誰が攻撃してくることを想定すべきか」を含めた事業継続リスクを検討することが望まれます。算出したリスクによって優先度を決めて対応し、重要なシステムのライフサイクル全体にセキュリティの対策プロセスを組み込む方が、長期的には効率的な投資となるでしょう。指針としては一般社団法人ソフトウェア協会(SAJ)から公開されている「フロンティアAIを巡る現状と今後—大局からの6つの提言」も参考になります。

 フロンティアAIによるセキュリティ上の脅威は一時的なものではなく、今後継続的に対応していかなければなりません。そのため予算、要員、時間といった限られた経営資源を有効に使い、事業継続リスクを適切に評価した上で、過剰投資を避け、現実的な着地点を見出すことが非常に重要です。さらに継続的な対応を適切なコストで実現するためには、セキュリティに限らない通常のシステム運用業務の中にセキュリティ関連プロセスを組み込むことが望まれます。これは運用業務全体に対してAIを使ったモダナイゼーションを実施し、変革しながらセキュリティに関する運用を組み込んでいくということを意味しています。モダナイゼーションは組織のセキュリティ対策レベルを持続可能な形で向上させるための道筋でもあり、フロンティアAIの時代に求められるのは、個別の対策ではなく、セキュリティ運用とモダナイゼーションを一体で継続的に進めることです。

理事 Chief Cyber Security Officer
北野 晴人