AI を使った攻撃は AI でしか守れないのか
4 分で読む
「AI を使った攻撃が増えた」と聞くと、守る側も AI を入れなければ間に合わないのでは、と考えるのは自然です。何が起きたかは 「AI が攻撃した」は何が起きたか に、見出しの数字が何を数えているかは 「AI 攻撃が急増」で増えたのは何か にまとめています。
先に知りたいのは、AI で攻撃の何が変わり、守りの何を変えればよいか、のはずです。攻撃と防御の当事者が自ら公表した一次資料から、5 つの変化と変わらないこと、変化ごとの守り方を並べ、そのうえで AI でしか守れないのかに答えます。
AI で攻撃はどう変わるか — 5 つの変化と、変わらないこと
図を上から読みます。① から ⑤ が変わったことで、いちばん下の行が変わらないことです。
| 変化 | 何が起きているか |
|---|---|
| ① 速くなる | 2025 年後半、公表から悪用までが週から日の単位に縮んだ。Google Cloud（2026・Cloud Threat Horizons Report 2026 年上半期版）原文Google Cloud Security observed the window between vulnerability disclosure to active exploitation collapse from weeks to days in the second half of 2025.出典を開く確認 2026-09-26 英国 NCSC（2025-05-07・2027 年までに AI がサイバー脅威に与える影響の評価）原文The time between disclosure and exploitation has shrunk to days and AI will almost certainly reduce this further.出典を開く確認 2026-09-26 |
| ② 攻撃に手を出せる人が増える | 技術の乏しい犯罪者が、以前なら何年もの訓練が要った作業（ランサムウェアの開発など）を AI で行っている Anthropic（2025-08-27・AI の悪用の検知と対処の報告）原文Criminals with few technical skills are using AI to conduct complex operations, such as developing ransomware, that would previously have required years of training.出典を開く確認 2026-09-26 |
| ③ 自動で回る | 作戦の 80〜90% を AI が実行した例がある。Anthropic（2025-11-13・AI 主導のスパイ活動の遮断）原文the threat actor was able to use AI to perform 80-90% of the campaign, with human intervention required only sporadically (perhaps 4-6 critical decision points per hacking campaign)出典を開く確認 2026-09-26 Anthropic（2025-11-13・AI 主導のスパイ活動の遮断）原文At the peak of its attack, the AI made thousands of requests, often multiple per second出典を開く確認 2026-09-26 |
| ④ AI の能力が伸びる | AI がこなせるサイバー作業の長さは、2024 年末から 4.7 か月ごとに倍になっていたと英国 AISI は推定した 英国 AI Security Institute（2026-05-13・自律的な AI のサイバー能力はどれだけ速く伸びているか）原文In February 2026, we internally estimated that the length of cyber tasks AI models could complete had doubled every 4.7 months since late 2024 – already an acceleration from our November 2025 estimate of 8 months.出典を開く確認 2026-09-26 |
| ⑤ 見分けにくくなる | AI の翻訳で、フィッシングの文面を標的の母国語で違和感なく書けるようになった IPA 情報処理推進機構（2026 年 3 月・情報セキュリティ 10 大脅威 2026 解説書［組織編］p.17）原文AI による翻訳機能・能力の向上により、攻撃者が Web ページの翻訳やフィッシングの文面を標的の母国語で違和感なく表現することを可能にし出典を開く確認 2026-09-26 |
| 変わらないこと | 攻撃そのものは既知の手口で、盗まれた資格情報・修正を当てていない出入口の機器・公開したままのサービスなどが突かれる。Anthropic（2026-09-10・AI の悪用の検知と対処 2026 年 9 月版）原文The attacks themselves are familiar, involving stolen credentials, unpatched edge devices, exposed services, SQL injection, and phishing.出典を開く確認 2026-09-26 警察庁サイバー警察局（令和 8 年 3 月・令和 7 年におけるサイバー空間をめぐる脅威の情勢等について）原文令和７年に警察庁が設置したセンサーにおいて検知した、ぜい弱性探索行為等の不審なアクセス件数は、１日・１IP アドレス当たり 9,605.7 件（前年比 0.9%増）と、引き続き高水準で推移しており、その大部分が海外を送信元とするアクセスで占められている（図表 13）。出典を開く確認 2026-09-26 |
5 つの分け方は、報告を並べたうえでの私たちの整理です。速くなった分のうち AI によるものがどれだけかは、読んだ報告のどれも数えていません。④ は評価機関が測った能力で、実際の攻撃で観測した数ではありません。
守りはどう変わるか — 変化ごとの手当て
図を上から読みます。各行の上が攻撃の変化、矢印の後がそれに合わせた守りの変化で、記号は 「AI が攻撃した」は何が起きたか の 7 つの対策の記号です。
| 変化 | 守りの変化 |
|---|---|
| 速くなる | 修正を日の単位で当て、できる限り自動更新にする。Anthropic（2026-04-07・Claude Mythos Preview のサイバー能力の技術報告）原文software users and administrators will need to drive down the time-to-deploy for security updates, including by tightening the patching enforcement window, enabling auto-update wherever possible出典を開く確認 2026-09-26 Google Cloud（Cloud Threat Horizons Report H1 2026・2025 年後半の観測）原文Defensively, organizations should pivot from manual patching to automated defenses—such as patching the Web Application Firewall (WAF)—to neutralize exploits at the network edge before software updates can be applied.出典を開く確認 2026-09-26 |
| 人が増え、常に探される | 外から入れる入口を一覧にし、使っていないものを閉じる。攻撃者は侵入する隙のある標的を探す 警察庁サイバー警察局（令和 8 年 3 月・令和 7 年におけるサイバー空間をめぐる脅威の情勢等について）原文ランサムウェア攻撃は基本的に金銭目的であり、攻撃者は侵入する「隙」のある標的を探して攻撃を行う。出典を開く確認 2026-09-26 |
| 自動で回る | 検知から遮断までを、人が画面を見る運用に頼らずに速くする Google Cloud（2026・Cloud Threat Horizons Report 2026 年上半期版）原文This activity, along with AI-assisted attempts to probe targets for information and continued threat actor emphasis on data-focused theft, indicates that organizations should be turning to more automatic defenses.出典を開く確認 2026-09-26 |
| AI の能力が伸びる | 強い AI を持つ攻撃者がいる前提で守る。英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文defenders should assume that at least some attackers already have access to capable AI tools.出典を開く確認 2026-09-26 IPA 情報処理推進機構（2026-03・情報セキュリティ 10 大脅威 2026 解説書［組織編］）原文修正パッチが無いことを前提とした多層防御、異常を検知する仕組み・体制を構築する。出典を開く確認 2026-09-26 |
| 見分けにくくなる | 見た目で見分けるのをやめ、フィッシングに強い多要素認証（パスキーなど）にする Google Cloud（Cloud Threat Horizons Report H1 2026・2025 年後半の観測）原文Enforce phishing-resistant MFA using physical hardware keys or FIDO2-compliant passkeys.出典を開く確認 2026-09-26 |
| AI の道具も狙われる | AI の鍵とエージェントの連携を、本番の資格情報と同じに扱う Anthropic（2026-09-10・AI の悪用の検知と対処 2026 年 9 月版）原文Organizations should treat AI keys and agent integrations with the same level of seriousness as they do production credentials出典を開く確認 2026-09-26 |
並べると、新しく足すものは一部で、多くは今までの対策を速く・例外なく回すことです。英国の NCSC も、最も効果のある対策は新しいものでも実験的なものでもないと書いています。 出典を開く確認 2026-09-26英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文
The most effective actions are not novel or experimental.
「AI でしか守れない」と書いた一次資料は見つからなかった
図は、AI を防御に使うことについて書かれたことと、同じ資料が基本の対策と人の手について書いたことを 2 段に並べたものです。
| 発表元（時期） | AI を防御に使うことについて | 基本の対策について |
|---|---|---|
| Microsoft（2025年3月・自社製品の発表） | 攻撃の速さと複雑さは人の能力を超え、AI エージェントは現代のセキュリティに必要 Microsoft（2025-03-24・Security Copilot の AI エージェントの発表）原文The relentless pace and complexity of cyberattacks have surpassed human capacity and establishing AI agents is a necessity for modern security.出典を開く確認 2026-09-26 |
— |
| 英国 NCSC（国家サイバーセキュリティセンター）と AI Security Institute（2026年3月） | 攻撃側を強めうる同じ能力を、守る側も使わなければならない 英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文Since frontier AI capabilities potentially strengthen cyber attackers, cyber defenders must use the same capabilities to drive defensive advantage.出典を開く確認 2026-09-26 |
AI は弱い基盤を補わず、強みも弱みも増幅する 英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文AI won’t compensate for weak security foundations, but it will amplify both strengths and weaknesses.出典を開く確認 2026-09-26 |
いちばん強い Microsoft の言い方でも「必要」までで、しかも自社の製品を紹介する発表です。英国の NCSC は、AI を使った攻撃は守りの固い相手より弱い相手に対して速く広がるので、基本の守りが欠かせないとしています。 出典を開く確認 2026-09-26英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文
Since AI will more quickly enable rapid scaling of attacks against ‘soft' rather than ‘hard’ targets, strong baseline security is vital.
中小企業は何から手を付けるか
図は、手を付ける 3 つの順番を左から並べたものです。
| 順 | 何をするか | 根拠 |
|---|---|---|
| 1 | 基本の対策。多要素認証、機器とアカウントの一覧、アクセスの管理、安全な設定、ログ | 多要素認証以外は NCSC の基本。英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文ensure you have the cyber security basics in place, such as: accurate asset inventories robust access controls secure configuration comprehensive logging出典を開く確認 2026-09-26 Anthropic（2026-05-22・Project Glasswing の最初の報告）原文These include steps like hardening networks’ default configurations, enforcing multi-factor authentication, and keeping comprehensive logs for detection and response.出典を開く確認 2026-09-26 |
| 2 | 今の製品の標準機能を使う。自動更新を有効にし、メールや端末に入っている保護機能を切らない | 更新はできる限り自動にする Anthropic（2026-04-07・Claude Mythos Preview のサイバー能力の技術報告）原文software users and administrators will need to drive down the time-to-deploy for security updates, including by tightening the patching enforcement window, enabling auto-update wherever possible出典を開く確認 2026-09-26 |
| 3 | 自社で見張れない部分を、外部のサービスに頼む | AI による監視の効果の研究は、専任の監視チームを持つ組織が対象 Microsoft の研究者（2024-11・生成 AI とセキュリティ監視チームの生産性の研究）原文We present the first statistical evidence of productivity enhancements from GAI tools accruing to security operations center (SOCs) analysts in live operations.出典を開く確認 2026-09-26 |
2 と 3 の中身と順番は、資料を並べたうえでの私たちの提案です。AI の製品を足すなら、その道具も攻撃される対象の一部として扱います。 出典を開く確認 2026-09-26英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文
these tools should be designed and deployed securely in their own right, and treated as part of the attack surface.
- 入口ごとの攻撃経路と対策は 入口ごとの攻撃経路と推奨の 3 手、ランサムウェアの被害と守り方は 中小企業はなぜランサムウェア被害の 6 割か にまとめています
- 修正までのつなぎは WAF とは、フィッシングに強い方式は 多要素認証（MFA）とは、端末を見張る仕組みは EDR（端末での検知と対応）とは にまとめています
- AI 自身のずれと、人による悪用の違いは AI アラインメントとは にまとめています
ここから先は調査の詳細です（約 11 分）。上のカードだけで決められます。調べた 1 件ずつの記録は IT連携マップ に、出典 URL と調査日つきで公開しています。
調査の詳細
このページは、AI を使った攻撃と防御について、公的機関・AI の提供元・競技の主催者・ソフトウェアの保守者・調査会社が自ら公表した一次資料を読み、AI で攻撃の何が変わったか、「AI でしか守れない」と書いたものがあるか、AI による防御の実績と限界がどう書かれているかを並べました。5 つの変化の分け方と、変化ごとの守りの対応は、資料を並べたうえでの私たちの整理です。引用はすべて 2026年9月26日に原本を取り直し、原文のまま在ることを確かめています。製品を自分で試してはいません。「見つからなかった」は下の表の資料についての話で、世の中のすべての資料を調べた結果ではありません。
読んだ資料
5 つの変化の数字の読み方
| 変化 | 数字 | 読み方 |
|---|---|---|
| ① 速くなる | 公表から約 48 時間で、暗号資産の採掘プログラムを仕込む動きがあった Google Cloud（2026・Cloud Threat Horizons Report 2026 年上半期版）原文approximately 48 hours of CVE-2025-55182’s public出典を開く確認 2026-09-26 |
Google Cloud が 2025 年後半に観測した、1 件の脆弱性についての話 |
| ① 速くなる | 攻撃の試作コードの公開から 22 分で悪用が試みられた例 Cloudflare（2024-07-11・アプリケーションセキュリティ報告 2024 年版）原文we have seen exploits as fast as 22 minutes after a proof of concept was released.出典を開く確認 2026-09-26 |
2024 年の報告で、AI には触れていない |
| ② 人が増える | AI は、初心者の犯罪者などの壁を下げる 英国 NCSC（2024-01-24・AI がサイバー脅威に与える影響の評価）原文AI lowers the barrier for novice cyber criminals, hackers-for-hire and hacktivists to carry out effective access and information gathering operations.出典を開く確認 2026-09-26 |
英国 NCSC の 2024 年 1 月の見通し |
| ④ 能力が伸びる | GPT-6 Astra が、OpenAI の基準でサイバー分野の Critical に初めて達した OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文Astra is our first model to reach the Critical level of cybersecurity capability under our Preparedness Framework.出典を開く確認 2026-09-26 |
開発元が自ら測った能力で、実際の攻撃の数ではない |
| ④ 能力が伸びる | AI で作られたとみられるゼロデイの攻撃コードを、攻撃者が使った例を初めて確認した Google Threat Intelligence Group（2026-05-11・AI を使った脆弱性の悪用と初期侵入）原文For the first time, GTIG has identified a threat actor using a zero-day exploit that we believe was developed with AI.出典を開く確認 2026-09-26 |
Google の 2026 年 5 月の報告。「とみられる」は報告自身の書き方 |
| 変わらないこと | 警察庁のセンサーが検知した不審なアクセスは、1 日・1 IP アドレスあたり 9,605.7 件で、高い水準が続いている 警察庁サイバー警察局（令和 8 年 3 月・令和 7 年におけるサイバー空間をめぐる脅威の情勢等について）原文令和７年に警察庁が設置したセンサーにおいて検知した、ぜい弱性探索行為等の不審なアクセス件数は、１日・１IP アドレス当たり 9,605.7 件（前年比 0.9%増）と、引き続き高水準で推移しており、その大部分が海外を送信元とするアクセスで占められている（図表 13）。出典を開く確認 2026-09-26 |
令和 7 年。インターネットに出ている機器は、常に探されている |
「AI 攻撃が急増」という見出しの数字の多くは、各社が自社の基準で「AI が関わった」と判定した指標です。CrowdStrike は、AI を取り入れた攻撃者による攻撃の数が 2024 年より 89% 増えたと書いています。 出典を開く確認 2026-09-26 出典を開く確認 2026-09-26CrowdStrike（2026-02-24・2026 Global Threat Report の解説ブログ）原文
Most threat actors that integrated AI increased their attack volume: CrowdStrike observed an 89% increase in the number of attacks by AI-enabled adversaries compared to 2024.
警察庁（2026-03・令和7年におけるサイバー空間をめぐる脅威の情勢等について）原文
令和７年におけるランサムウェアの被害報告件数は 226 件であり、依然として高水準で推移している
守りの変化のうち、フィッシングに強い多要素認証については、正しい ID とパスワードの組を持たれていても、乗っ取りを狙う攻撃の 99% 超を止められると Microsoft が書いています。 出典を開く確認 2026-09-26Microsoft（2025-10-16・Microsoft Digital Defense Report 2025 の紹介記事）原文
The implementation of phishing-resistant multifactor authentication (MFA) can stop over 99% of this type of attack even if the attacker has the correct username and password combination.
AI による防御の実績
図を左から読みます。守る側の AI として、Google の Big Sleep、米 DARPA の競技 AIxCC、Anthropic の Project Glasswing が並んでいます（左）。AI は脆弱性を見つけ（中）、競技では見つけた分を直し、Big Sleep は悪用される直前の脆弱性を先に止めました（右）。AI が防御で成果を出しているのは、主にソフトウェアの脆弱性（弱点）を見つけて直す場面です。
| 取り組み（発表元・時期） | 何ができたか |
|---|---|
| Big Sleep（Google・2024年11月） | Big Sleep が初めて見つけた実在の脆弱性（広く使われるデータベース SQLite の、悪用できるもの）。Google Project Zero（2024-11-01・Big Sleep が見つけた最初の実例）原文Today, we're excited to share the first real-world vulnerability discovered by the Big Sleep agent: an exploitable stack buffer underflow in SQLite, a widely used open source database engine.出典を開く確認 2026-09-26 Google Project Zero（2024-11-01・Big Sleep が見つけた最初の実例）原文Fortunately, we found this issue before it appeared in an official release, so SQLite users were not impacted.出典を開く確認 2026-09-26 |
| Big Sleep（Google・2025年7月） | 脅威情報と組み合わせ、使われる直前の脆弱性を先に止めた。Google（2025-07-15・2025 年夏のサイバーセキュリティの取り組み）原文Through the combination of threat intelligence and Big Sleep, Google was able to actually predict that a vulnerability was imminently going to be used and we were able to cut it off beforehand.出典を開く確認 2026-09-26 Google（2025-07-15・2025 年夏のサイバーセキュリティの取り組み）原文We believe this is the first time an AI agent has been used to directly foil efforts to exploit a vulnerability in the wild.出典を開く確認 2026-09-26 |
| AIxCC（米国防高等研究計画局 DARPA・2025年8月） | 競技用に仕込んだ脆弱性の 86% を見つけ、見つけた分の 68% を直した。米 DARPA（2025-08-08・AI Cyber Challenge の決勝結果）原文teams identified 86% of the competition’s synthetic vulnerabilities, an increase from 37% at semifinals, and patched 68% of the vulnerabilities identified, an increase from 25% at semifinals.出典を開く確認 2026-09-26 米 DARPA（2025-08-08・AI Cyber Challenge の決勝結果）原文Competitor CRSs proved they can create valuable bug reports and patches for a fraction of the cost of traditional methods, with an average cost per competition task of about $152.出典を開く確認 2026-09-26 |
| Project Glasswing（Anthropic・2026年5月） | 約 50 の協力先と、深刻度が高いか重大な脆弱性を 1 万件超見つけた Anthropic（2026-05-22・Project Glasswing の最初の報告）原文we and our approximately 50 partners have used Claude Mythos Preview to find more than ten thousand high- or critical-severity vulnerabilities across the most systemically important software in the world.出典を開く確認 2026-09-26 |
見つける量と速さは、大きく伸びています。問題は、その後ろです。成果が中小企業に届くのは、直った版が配られ、それを自社で入れたときです。
詰まっているのは、確かめて直す人の手
図を左から読みます。AI が脆弱性を見つけ（1 つ目の箱）、人が確かめて保守者に知らせ（2 つ目）、ソフトウェアの保守者が修正を作り（3 つ目）、使う側が直った版を入れます（4 つ目）。4 つ目の箱が、自社です。
Anthropic は、進み具合を決めるのは、以前は脆弱性を見つける速さだったが、今は AI が見つけた大量の脆弱性を確かめ、知らせ、直す速さだと書いています。 出典を開く確認 2026-09-26 出典を開く確認 2026-09-26Anthropic（2026-05-22・Project Glasswing の最初の報告）原文
Progress on software security used to be limited by how quickly we could find new vulnerabilities. Now it’s limited by how quickly we can verify, disclose, and patch the large numbers of vulnerabilities found by AI.
Anthropic（2026-05-22・Project Glasswing の最初の報告）原文
the bottleneck in fixing bugs like these is the human capacity to triage, report, and design and deploy patches for them.
| 段階 | 担う人 | 書かれていること |
|---|---|---|
| 見つける | AI | 上の実績のとおり、量は大きく伸びた |
| 確かめて知らせる | 外部の調査会社など | 人による選別と確認が、全体の速さを決めている Anthropic（2026-08-26 更新・脆弱性の協調開示ダッシュボード）原文since the process of independent human triage and review is the rate limiting step.出典を開く確認 2026-09-26 |
| 直す | ソフトウェアの保守者 | 2026年8月26日時点で、開示した 2,300 件のうち修正が分かっているのは 421 件。Anthropic（2026-08-26 更新・脆弱性の協調開示ダッシュボード）原文As of August 26, 2026, we've disclosed 2,300 vulnerabilities across 392 open source projects. To our knowledge, 421 of these have been patched.出典を開く確認 2026-09-26 Anthropic（2026-05-22・Project Glasswing の最初の報告）原文On average, a high- or critical-severity bug found by Mythos Preview takes two weeks to patch.出典を開く確認 2026-09-26 |
| 入れる | 使う側（自社） | 修正が出ても、広く入ったとは限らない Anthropic（2026-08-26 更新・脆弱性の協調開示ダッシュボード）原文though this does not guarantee that those patches have been widely installed.出典を開く確認 2026-09-26 |
中小企業に関わるのは最後の段です。Anthropic は、現実の被害のかなりの部分は、修正が公開済みなのにまだ当てていないシステムで起きると書いています。 出典を開く確認 2026-09-26Anthropic（2026-04-07・Claude Mythos Preview のサイバー能力の技術報告）原文
A large fraction of real-world harm comes from N-days: vulnerabilities that have been publicly disclosed and patched, but which remain exploitable on the many systems that haven't yet applied the fix.
限界と逆効果
図を左から読みます。AI が脆弱性の報告や修正を大量に作り（左）、人が確かめずにそのまま出すと（中）、受け取る側の時間を奪います（右）。実績を出した取り組みも、限界を自分で書いています。
| 取り組み・調査 | 書かれている限界 |
|---|---|
| CodeMender（Google DeepMind・2025年10月） | 半年で 72 件の修正をオープンソースに出したが、Google DeepMind（2025-10-06・CodeMender の発表）原文Over the past six months that we’ve been building CodeMender, we have already upstreamed 72 security fixes to open source projects, including some as large as 4.5 million lines of code.出典を開く確認 2026-09-26 Google DeepMind（2025-10-06・CodeMender の発表）原文Currently, all patches generated by CodeMender are reviewed by human researchers before they’re submitted upstream.出典を開く確認 2026-09-26 |
| XBOW（自動の侵入テスト・2025年6月） | 脆弱性報奨金の米国ランキングで首位になったが、XBOW（2025-06-24・HackerOne の米国ランキングで首位になった経緯）原文For the first time in bug bounty history, an autonomous penetration tester has reached the top spot on the US leaderboard.出典を開く確認 2026-09-26 XBOW（2025-06-24・HackerOne の米国ランキングで首位になった経緯）原文All findings were fully automated, though our security team reviewed them pre-submission to comply with HackerOne’s policy on automated tools.出典を開く確認 2026-09-26 XBOW（2025-06-24・HackerOne の米国ランキングで首位になった経緯）原文XBOW submitted nearly 1,060 vulnerabilities.出典を開く確認 2026-09-26 XBOW（2025-06-24・HackerOne の米国ランキングで首位になった経緯）原文Across all submissions, 208 were marked as duplicates, 209 as informative and 36 as not applicable (most of them self-closed by our team).出典を開く確認 2026-09-26 |
| curl の開発チーム（2025年7月・報告を受ける側） | 2025年の報告の約 20% が AI による粗悪な報告。curl 開発者 Daniel Stenberg（2025-07-14・脆弱性報告に占める AI の粗悪な報告）原文The general trend so far in 2025 has been way more AI slop than ever before (about 20% of all submissions)出典を開く確認 2026-09-26 curl 開発者 Daniel Stenberg（2025-07-14・脆弱性報告に占める AI の粗悪な報告）原文In early July, about 5% of the submissions in 2025 had turned out to be genuine vulnerabilities.出典を開く確認 2026-09-26 |
| Microsoft の研究（2024年11月） | 自社の AI 製品を導入した組織で、事案の解決時間が 30.13% 短い傾向があった。Microsoft の研究者（2024-11・生成 AI とセキュリティ監視チームの生産性の研究）原文We find that GAI adoption is associated with a 30.13% reduction in security incident mean time to resolution.出典を開く確認 2026-09-26 Microsoft の研究者（2024-11・生成 AI とセキュリティ監視チームの生産性の研究）原文While unobserved confounders inhibit causal identification出典を開く確認 2026-09-26 |
| 英国 NCSC（2026年3月） | 自動の対応は、誤ると元の攻撃より大きな被害になることがある 英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文Incorrect or overly aggressive responses can result in service disruptions, data loss, or operational failures – in some cases exceeding the impact of the original attack.出典を開く確認 2026-09-26 |
AI が作ったものを人が確かめる手間は、残ったままです。確かめずに出せば、受け取る側の人の時間を奪います。
「使うべき」と書いた資料が添えていること
AI を防御に使うよう勧めている資料は複数あります。同じ資料が何を添えているかも並べます。
| 資料 | 勧めていること | 同じ資料が添えていること |
|---|---|---|
| 英国 NCSC（2026年3月） | 少なくとも一部の攻撃者は既に高い能力の AI を持っていると考えるべき 英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文defenders should assume that at least some attackers already have access to capable AI tools.出典を開く確認 2026-09-26 |
最も効果のある対策は、新しいものでも実験的なものでもない 英国 NCSC・AI Security Institute（2026-03-30・フロンティア AI に備える防御側へのブログ）原文The most effective actions are not novel or experimental.出典を開く確認 2026-09-26 |
| Anthropic（2025年11月） | 攻撃に使えるのと同じ能力が、防御にも欠かせない。Anthropic（2025-11-13・AI 主導のスパイ活動の遮断）原文The answer is that the very abilities that allow Claude to be used in these attacks also make it crucial for cyber defense.出典を開く確認 2026-09-26 Anthropic（2025-11-13・AI 主導のスパイ活動の遮断）原文We advise security teams to experiment with applying AI for defense in areas like Security Operations Center automation, threat detection, vulnerability assessment, and incident response.出典を開く確認 2026-09-26 |
初期設定の強化、多要素認証、検知と対応のためのログを挙げている（2026年5月） Anthropic（2026-05-22・Project Glasswing の最初の報告）原文These include steps like hardening networks’ default configurations, enforcing multi-factor authentication, and keeping comprehensive logs for detection and response.出典を開く確認 2026-09-26 |
| Anthropic（2025年10月） | 防御のための能力を伸ばした | その能力の多くはまだ始まったばかりで、専門家と確立した手順には及ばない Anthropic（2025-10-03・防御のための AI の開発）原文many of its capabilities are nascent and do not yet match those of security professionals and established processes.出典を開く確認 2026-09-26 |
Big Sleep の 2 つの時点
2024年11月の最初の報告で、Big Sleep のチームは、現時点では、対象に合わせて作った自動検査（ファザー）でも、脆弱性を見つける力は少なくとも同じくらいだろうと書いていました。 出典を開く確認 2026-09-26Google Project Zero（2024-11-01・Big Sleep が見つけた最初の実例）原文
The position of the Big Sleep team is that at present, it's likely that a target-specific fuzzer would be at least as effective (at finding vulnerabilities).
AIxCC の数字の範囲
86% と 68% は、競技のために仕込んだ脆弱性についての数字です。5,400 万行のコードの中の、仕込んだ脆弱性を見つけて直す競技でした。 出典を開く確認 2026-09-26 出典を開く確認 2026-09-26米 DARPA（2025-08-08・AI Cyber Challenge の決勝結果）原文
teams’ systems attempted to identify and generate patches for synthetic vulnerabilities across 54 million lines of code.
米 DARPA（2025-08-08・AI Cyber Challenge の決勝結果）原文
teams also discovered 18 real, non-synthetic vulnerabilities that are being responsibly disclosed to open source project maintainers.
開示の数と、保守者の負担
| 項目 | 書かれていること |
|---|---|
| 保守者の状況 | AI が作った質の低い報告の洪水に直面している Anthropic（2026-05-22・Project Glasswing の最初の報告）原文maintainers have been facing a deluge of low-quality, AI-generated bug reports.出典を開く確認 2026-09-26 |
| 保守者からの頼み | 修正を作る時間が要るので、開示の速さを落としてほしいと頼んだ保守者もいる Anthropic（2026-05-22・Project Glasswing の最初の報告）原文some have even asked us to slow down our rate of our disclosures because they need more time to design patches.出典を開く確認 2026-09-26 |
| 1 件の重さ | curl では、報告 1 件に 3〜4 人が関わり、1 人あたり 30 分から 3 時間ほどかかる curl 開発者 Daniel Stenberg（2025-07-14・脆弱性報告に占める AI の粗悪な報告）原文Every report thus engages 3-4 persons. Perhaps for 30 minutes, sometimes up to an hour or three. Each.出典を開く確認 2026-09-26 |
| 提出した数 | XBOW は約 1,060 件を提出した XBOW（2025-06-24・HackerOne の米国ランキングで首位になった経緯）原文XBOW submitted nearly 1,060 vulnerabilities.出典を開く確認 2026-09-26 |
効果の数字の読み方
防御に AI を使った効果の数字は、どれも比べた結果です。
| 調査 | 数字 | 比べ方 |
|---|---|---|
| Microsoft の研究（2024年11月） | 事案の解決時間が 30.13% 短い傾向 | 仮に原因だとしても、導入していない組織にとっての平均の効果は大きく見積もりすぎになると、自分で書いている Microsoft の研究者（2024-11・生成 AI とセキュリティ監視チームの生産性の研究）原文even assuming our estimates are causal, our estimates would overstate the average productivity impact of Copilot for non-adopters.出典を開く確認 2026-09-26 |
| IBM（2025年7月） | AI と自動化を広く使う組織は、侵害の費用が平均 190 万ドル低く、侵害への対応期間が平均 80 日短い IBM（2025-07-30・Cost of a Data Breach Report 2025 の発表）原文organizations using AI and automation extensively throughout their security operations saved an average $1.9 million in breach costs and reduced the breach lifecycle by an average of 80 days.出典を開く確認 2026-09-26 |
2024年3月〜2025年2月に侵害を受けた 600 組織の調査 IBM（2025-07-30・Cost of a Data Breach Report 2025 の発表）原文is based on data breaches experienced by 600 organizations globally from March 2024 through February 2025.出典を開く確認 2026-09-26 |
| IBM（2026年7月） | AI と自動化を使うと答えた組織は侵害の費用が平均 200 万ドル近く低く、4 分の 1 の組織はまだ使っていない IBM（2026-07-29・Cost of a Data Breach Report 2026 の発表）原文Companies that reported using AI and automation in security operations cut breach costs by an average of almost $2 million dollars, yet one in four organizations have still not adopted these tools in their security operations.出典を開く確認 2026-09-26 |
2025年3月〜2026年2月に侵害を受けた 602 組織の調査 IBM（2026-07-29・Cost of a Data Breach Report 2026 の発表）原文is based on breaches experienced by 602 organizations globally between March 2025 and February 2026.出典を開く確認 2026-09-26 |
IBM の 2 年分は同じ向きを示しています。ただし、使ったから費用が下がったのか、予算や人員のようなほかの違いで下がったのかは、この比べ方では分けられません。Microsoft の研究が自分で書いている限界と同じ形です。
調べていないこと
- 製品やサービスを自分で試して、効果を確かめてはいません
- 取り組みの成果は、どれも発表した組織自身の報告です。第三者が同じ数字を確かめたかは調べていません
- 機械で取り直せなかった資料（ログイン画面やアクセスの拒否を返すページ）は使っていません