CyberSecurityAction

サイバー攻撃トレンド

自律型AIがサイバー攻撃を仕掛ける時代へ──AISIが警鐘を鳴らす新たな脅威の全貌

英国・日本のAI安全機関（AISI）が相次いで報告書を公表。人間の指示なしに攻撃を完遂できる「自律型AIエージェント」がサイバー攻撃に悪用されるリスクが現実的な段階に入りつつあります。

喜村 圭佑（編集責任者）更新 約7分

SHARE

XB!in
自律型AIがサイバー攻撃を仕掛ける時代へ──AISIが警鐘を鳴らす新たな脅威の全貌

THREAT GAUGE算出基準

IMPACT（影響範囲）8.5
URGENCY（対応緊急度）7.5
EXPLOIT（悪用の容易さ）6.5

“自律化・低コスト化で攻撃者の参入障壁が急低下”

01 · Overview

ニュースの概要

AIが自分で考え、計画を立て、ツールを操作して攻撃を実行する——そんな「自律型AIエージェント」によるサイバー攻撃の脅威が、もはや絵空事ではなくなっています。英国と日本のAI安全機関（AISI）は、こうした次世代の攻撃シナリオを正面から取り上げた報告書や評価フレームワークを公表し、業界に対応を促しています。

従来のAIを使ったサイバー攻撃は、攻撃者がAIにコードを書かせたり、フィッシングメールの文章を生成させたりする「道具として使う」段階でした。しかし最新のAIエージェント技術は、目標を与えるだけでターゲットの調査・脆弱性の発見・侵入・痕跡消去まで、一連の工程を自律的にこなす能力を持ちつつあります。

英国のAI Safety Institute（UK AISI）は、大規模言語モデル（LLM）を搭載したエージェントがサイバー攻撃のライフサイクル全体をどの程度自動化できるかを評価する研究を進めており、特に「低技能の攻撃者が高度な攻撃を実行できるようになる」民主化リスクを強調しています。日本のAISIも同様の観点からAIの安全評価基準の策定を加速させています。

最大の懸念は攻撃の「スケール」です。人間の攻撃者は一度に狙えるターゲットに限りがありますが、自律型AIは並列で無数のターゲットを同時攻撃でき、しかも疲弊しません。加えて、攻撃ツールがサービス化（MaaS）される形で闇市場に流通すれば、専門知識を持たない攻撃者でも高度な攻撃が可能になります。

一方、防御側にとってはAIエージェントを使ったセキュリティ監視の自動化や、脅威インテリジェンスの即時分析など、活用の余地も大きく広がっています。「攻撃者も防御者も同じAI技術を使う」という新たな均衡点を見据えた戦略が求められています。

主な警告主体
英・日 AISI（AI安全機関）
攻撃の特徴
人間の介在なしに攻撃を自律完遂
最大のリスク
攻撃の民主化とスケール爆発
悪用されるAI技術
LLMベースの自律型エージェント
防御側の活用余地
AI活用の自動セキュリティ監視

英国AI Safety Institute（UK AISI）・内閣府AI安全機関（日本AISI）の公表資料および各種セキュリティメディアの報道に基づく。

02 · Analysis

詳細な原因解説

自律型AIによるサイバー攻撃リスクが急浮上した背景には、大規模言語モデル（LLM）の能力向上と「AIエージェント」フレームワークの普及があります。LLMは当初テキスト生成に特化していましたが、外部ツールとの連携（ツールコール）や複数ステップの計画立案ができるエージェント型の設計が一般化し、ソフトウェアのコード実行やウェブ検索、さらにはシステム操作までを自律的にこなせるようになりました。

攻撃側にとって自律型AIが魅力的な理由は「コスト対効果」にあります。従来、高度なサイバー攻撃には深い専門知識と多くの工数が必要でした。しかし自律型AIエージェントを使えば、攻撃の計画立案から実行・後処理までの多くを自動化でき、攻撃者一人あたりの「攻撃可能なターゲット数」が劇的に増加します。これは、国家レベルの攻撃者だけでなく、技術力の低い犯罪者にとっても攻撃参入の障壁を大幅に下げることを意味します。

また、AIモデルの「アライメント（安全設計）」の問題も根本的な原因のひとつです。安全ガイドラインを回避するよう設計された悪意あるプロンプト（いわゆるジェイルブレイク）や、オープンソースで制限のないモデルの流通により、攻撃者が倫理的制限を迂回したAIツールを入手・悪用することが現実的になっています。AISIが安全評価基準の策定を急ぐのも、こうしたモデルの制御問題への危機感が背景にあります。

03 · Action

今からできる主な対策

明日からすぐ

1週間以内

05 · Forecast

今後起こりうる展開と対策

攻撃チェーン全段階の自動化

自律型AIは攻撃のどのフェーズを自動化できるのか？

サイバーキルチェーンの「偵察→武器化→配送→侵入→実行→潜伏→目的遂行」の各段階において、自律型AIエージェントはそのほぼ全てを自動化できる可能性があります。特に偵察（OSSINTによるターゲット情報収集）と武器化（エクスプロイトコードの生成・調整）のフェーズにおけるAIの活用は既に現実のものとなりつつあり、残るフェーズも技術の進展と共に自動化が進むと予測されています。

攻撃の民主化とフィードバックループ

AIによる攻撃の低コスト化は、どのような連鎖反応を生むのか？

攻撃コストの低下→攻撃者数の増加→攻撃件数の爆発的増加→セキュリティ製品需要の増加→防御側のAI活用促進→攻撃側の更なる高度化、というフィードバックループが既に始まっています。このループは「攻撃と防御の際限ない軍拡競争」を加速させ、最終的に対応できない中小企業・組織が最大の被害を受ける構造を生み出します。

既存攻撃手法のAIによる代替・拡張

AIは従来の攻撃手法をどう変化させるか？

SCAMPER的観点では、AIは既存の攻撃手法を「代替（Substitute）」するのではなく「拡張（Magnify）・組み合わせ（Combine）」する形で脅威を高めます。例えば、従来は人力で行っていたフィッシングメールの作成・送信・返信対応を、AIエージェントがターゲットごとにパーソナライズしながら大量並列で実行できます。攻撃者は最小限のリソースで最大限の攻撃面をカバーできるようになります。

AI攻撃時代に求められる防御の三本柱

第一の柱は「AI by AIの防御」です。攻撃がAIで自動化される以上、防御側もAIを使った異常検知・自動遮断を組み込まなければ人間のスピードでは対抗できません。SIEMやEDRへのAI機能統合を積極的に検討してください。

第二の柱は「ゼロトラストの徹底」です。自律型AIエージェントが侵入した場合、内部での横移動（ラテラルムーブメント）を最小限に抑えることが被害局限化の鍵です。すべてのアクセスを「信頼しない・常に検証する」原則を社内システム全体に適用してください。

第三の柱は「AIガバナンスの整備」です。社内で利用するAIツールの利用ポリシー策定、外部AIサービスへのデータ送信ルールの明確化、そしてAISIが提示する安全評価基準の継続的なモニタリングが、リスク管理の基盤となります。

06 · AI Prompt

AI対策プロンプト

あなたは熟練したサイバーセキュリティアナリストです。私たちの組織（[組織種別]、従業員数[従業員規模]名規模）が、自律型AIエージェントを悪用したサイバー攻撃に備えるためのリスク評価を手伝ってください。 私たちが現在利用しているAI関連ツールは [利用AIツール] です。セキュリティ体制については [現状のセキュリティ体制] の状況です。 以下の観点で評価・提案をお願いします： 1. 自律型AI攻撃によって私たちの組織が最も狙われやすいポイント（攻撃面）の特定 2. 今すぐ実施できる優先度の高い対策3つ 3. AISIのガイドラインを参考にした、AIガバナンスポリシーの骨子案 4. 半年以内に整備すべきセキュリティ体制のロードマップ 回答は [出力言語] で、経営層にも伝わる平易な表現でまとめてください。

プロンプトのカスタマイズ

以下を入力すると、上のプロンプトに反映されます。

組織の業種・種別（例：製造業、金融機関、医療機関、地方自治体など）

組織のおおよその従業員数

現在社内で利用しているAIツールやサービスの名称

現在のセキュリティ対策の概況（例：専任担当者なし、EDR導入済みなど）

回答を出力する言語

キーワード

  • 自律型AIエージェント
  • AISI
  • AIサイバー攻撃
  • LLMセキュリティ
  • AIガバナンス

SOURCES · 参考情報源