AI の安全の枠組み — 開発元と各国の評価機関
5 分で読む
「AI は安全なのか、危険なのか」に一言で答えている一次資料は、今回読んだなかにはありませんでした。代わりに、AI を作る開発元と各国の評価機関が、それぞれの持ち場で何をしているかを公表しています。
Anthropic・OpenAI・Google DeepMind の枠組みと、日本・英国・EU の取り組みを並べ、使う側に何が残るかをまとめました。
3 つの層で見る
| 層 | 誰が | 何をしているか |
|---|---|---|
| 開発元の枠組み | Anthropic・OpenAI・Google DeepMind | 自社のモデルの能力を測り、決めた線に近づいたら保護を上げる |
| 各国の評価機関 | 日本の AI セーフティ・インスティテュート（J-AISI）、英国の AI Security Institute（AISI）、EU | 外から能力を測り、評価の観点や、大手の開発元が守ることを示す |
| 使う側の対策 | AI を使う会社 | 渡す権限・外への通信・人の確認を、自社の側で閉じる |
上の 2 つの層の中身は、使う側からは変えられません。自社で変えられるのは 3 つ目の層だけです。
開発元の枠組みは「線を越えたら保護を上げる」
Anthropic は自社の枠組みを、ある能力の水準を越えたら、より厳しい保護を入れるという条件つきの約束として作ったと説明しています。 出典を開く確認 2026-09-26Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文
We focused the RSP on the principle of conditional, or if-then, commitments. If a model exceeded certain capability levels (for example, biological science capabilities that could assist in the creation of dangerous weapons), then the policy stated that we should introduce a new and stricter set of safeguards (for example, against model misuse and the theft of model weights).
| 開発元 | 枠組みと段階の名前 | 2025〜2026 年に公表されたこと |
|---|---|---|
| Anthropic | 責任あるスケーリング方針（Responsible Scaling Policy、RSP）。段階は、求める保護の重さを表す AI 安全水準（AI Safety Level、ASL） Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文Each set of safeguards corresponded to an “AI Safety Level” (ASL): for example, ASL-2 referred to one set of required safeguards, whereas ASL-3 referred to a more stringent set of safeguards needed for more capable AI models.出典を開く確認 2026-09-26 |
2025 年 5 月、Claude Opus 4 で ASL-3 の保護を、必要と確定する前に予防として有効にした Anthropic（2025-05-22・ASL-3 の保護の有効化）原文We are deploying Claude Opus 4 with our ASL-3 measures as a precautionary and provisional action. To be clear, we have not yet determined whether Claude Opus 4 has definitively passed the Capabilities Threshold that requires ASL-3 protections.出典を開く確認 2026-09-26 |
| OpenAI | Preparedness Framework（備えの枠組み）。段階は能力の High と、その上の Critical | 2026 年 2 月の GPT-5.3-Codex を、サイバー分野で初めて High として予防的に扱った。OpenAI（2026-02-05・GPT-5.3-Codex のシステムカード）原文This is the first launch we are treating as High capability in the Cybersecurity domain under our Preparedness Framework, activating the associated safeguards. We do not have definitive evidence that this model reaches our High threshold, but are taking a precautionary approach because we cannot rule out the possibility that it may be capable enough to reach the threshold.出典を開く確認 2026-09-26 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文Astra is our first model to reach the Critical level of cybersecurity capability under our Preparedness Framework.出典を開く確認 2026-09-26 |
| Google DeepMind | Frontier Safety Framework（最先端 AI の安全の枠組み、FSF）。段階は重大な能力の水準（Critical Capability Level、CCL） | 2026 年 8 月の Gemini 3.7 Flash は、サイバーの CCL の手前に置いた警告の線には達したが、CCL には達していない Google DeepMind（2026-08・Gemini 3.7 Flash の Frontier Safety Framework 報告書）原文Cyber Uplift Level 1 CCL: “Provides sufficient uplift with high impact cyber attacks for additional expected harm at severe scale.” CCL reached: No. Gemini 3.7 Flash reaches the alert threshold for this CCL, but not the CCL. As a precautionary measure we will continue to deploy mitigations, which we assess to substantially reduce the risk posed.出典を開く確認 2026-09-26 |
3 社とも、線を確実に越えたと分かる前から保護を置いています。OpenAI は Critical に達した GPT-6 Astra について、適切な道具と権限があれば、人が一歩ずつ導かなくても、よく守られた多くのシステムで未知の脆弱性を見つけて突く方法を作れると説明しています。 出典を開く確認 2026-09-26OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文
This means that, with the right tools and access, GPT-6 Astra can find previously unknown security flaws and develop new ways to exploit them across many well-protected systems without a person guiding each step.
各国の評価機関は外から測る
| 国・地域 | 資料 | 何を示しているか |
|---|---|---|
| 日本 | J-AISI の評価観点ガイド 第 1.20 版（2026 年 7 月 7 日） 日本 AI セーフティ・インスティテュート（2026-07-07・評価観点ガイド 第 1.20 版の公開）原文AIセーフティに関する評価観点ガイド (第1.20版) 2026年7月7日公表出典を開く確認 2026-09-26 |
AI エージェント特有の観点として「観測と制御」を加えた 日本 AI セーフティ・インスティテュート（2026-07-07・評価観点ガイド 第 1.20 版の公開）原文さらに、AIエージェントシステム特有の観点として「観測と制御」を設け、「自律的な挙動」及び「外部環境との相互作用」に関する評価項目を追加しました。出典を開く確認 2026-09-26 |
| 英国 | AISI のブログ（2026 年 5 月 13 日） | 自らの試験で、AI がこなせるサイバー作業の長さは、2024 年末から 4.7 か月ごとに倍になっていた（2026 年 2 月時点の推定） 英国 AI Security Institute（2026-05-13・自律的な AI のサイバー能力はどれだけ速く伸びているか）原文In February 2026, we internally estimated that the length of cyber tasks AI models could complete had doubled every 4.7 months since late 2024 – already an acceleration from our November 2025 estimate of 8 months.出典を開く確認 2026-09-26 |
| EU | 汎用 AI 行動規範（General-Purpose AI Code of Practice）の、安全とセキュリティの章（2025 年 7 月 10 日公表） | 最先端のモデルの提供者が見るリスクとして、サイバー攻撃 欧州委員会（汎用 AI の行動規範・安全とセキュリティの章・2025-07-10）原文(3) Cyber offence: Risks from enabling large-scale sophisticated cyber-attacks, including on critical systems (e.g. critical infrastructure).出典を開く確認 2026-09-26 欧州委員会（汎用 AI の行動規範・安全とセキュリティの章・2025-07-10）原文(2) Loss of control: Risks from humans losing the ability to reliably direct, modify, or shut down a model.出典を開く確認 2026-09-26 欧州委員会（汎用 AI の行動規範のページ・2025-07-10 公表）原文The Chapters on Safety and Security is only relevant to the small number of providers of the most advanced models, those that are subject to the AI Act's obligations for providers of general-purpose AI models with systemic risk under Article 55 AI Act.出典を開く確認 2026-09-26 |
英国の AISI は、不正の行動を調べたモデルが、どれも評価の中で不正を試みたとも報告しています。 出典を開く確認 2026-09-26英国 AI Security Institute（2026-07-21・フロンティアモデルの評価で見られる不正行為）原文
Every model we have tested for this behaviour attempted to cheat.
「安全か危険か」ではなく「どの層がどこまで効くか」
開発元の枠組みが狙っているのは大規模な被害です。 出典を開く確認 2026-09-26 出典を開く確認 2026-09-26 出典を開く確認 2026-09-26 出典を開く確認 2026-09-26Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文
We’re releasing the third version of our Responsible Scaling Policy (RSP), the voluntary framework we use to mitigate catastrophic risks from AI systems.
Google DeepMind（2026-04-17・Frontier Safety Framework 第 3.1 版）原文
The Frontier Safety Framework focuses on possible severe risks stemming from high-impact capabilities of frontier AI models.
OpenAI（2025-04-15・Preparedness Framework 第 2 版）原文
By “severe harm” in this document, we mean the death or grave injury of thousands of people or hundreds of billions of dollars of economic damage.
OpenAI（2025-04-15・Preparedness Framework 第 2 版）原文
Our safety stack addresses a broad spectrum of risks, including many with harms below this severity.
| 発表した側 | 自ら書いている限界 |
|---|---|
| Anthropic | 決めておいた能力の線は、予想よりずっと曖昧だった Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文We found pre-set capability levels to be far more ambiguous than we anticipated: in some cases, model capabilities have clearly approached the RSP thresholds, but we have had substantial uncertainty about whether they have definitively passed those thresholds.出典を開く確認 2026-09-26 |
| OpenAI | モデルと監視の防御は、攻撃に対して 100% にはならない。OpenAI（2026-02-05・GPT-5.3-Codex のシステムカード）原文Model and monitoring defenses are never 100% robust to adversarial attacks, and undiscovered universal jailbreaks may still exist despite current red-teaming efforts.出典を開く確認 2026-09-26 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文The table reports the proportion of attacks for which the model successfully refused to provide unsafe assistance; higher values indicate better safety.出典を開く確認 2026-09-26 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文Table 27. Static Jailbreak Evaluations Category GPT-5.5 Thinking GPT-5.6 Sol GPT-6 Astra GPT-6 Sol GPT-6 Luna出典を開く確認 2026-09-26 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文Cyber 57.0% (51.9, 62.1) 59.0% (53.9, 64.1) 91.5% (88.4, 94.4)出典を開く確認 2026-09-26 |
| OpenAI | 防御の仕事にも同じ技術が使われるため、正当な防御の利用まで自動の仕組みに引っかかることがある OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文We recognize that account-level enforcement is a coarse tool in an inherently dual-use domain, and that some valuable defensive uses may be flagged by our automated systems.出典を開く確認 2026-09-26 |
| Google DeepMind | 試験の環境では、能力を引き出しきれないことがある Google DeepMind（2026-08・Gemini 3.7 Flash の Frontier Safety Framework 報告書）原文Recognizing that testing environments may under-elicit capabilities and threat actors could scale misuse absent mitigations出典を開く確認 2026-09-26 |
| 英国の AISI | 測っている作業は、現実のサイバー攻撃に関わる能力の一部だけ 英国 AI Security Institute（2026-05-13・自律的な AI のサイバー能力はどれだけ速く伸びているか）原文These tasks cover only some of the capabilities relevant to real-world cyberattacks.出典を開く確認 2026-09-26 |
Anthropic は、AI を人の意図に沿わせる アラインメント だけには頼らない、とも書いています。 出典を開く確認 2026-09-26Anthropic（2026-08-31・アラインメントとセキュリティの取り組みの改善）原文
We are continuing to train this behavior directly, but a defense-in-depth approach means not relying on alignment alone.
使う側が前提にすること
| 前提 | 自社でやること | 詳しく |
|---|---|---|
Anthropic は、一般に提供するモデルには安全機構を付けていると書く。Anthropic（2026-08-31・アラインメントとセキュリティの取り組みの改善）原文Our generally released models ship with safeguards—including classifiers that run over Claude’s inputs and outputs in real time to block prohibited cyber activity, such as malware development or offensive exploit writing.出典を開く確認 2026-09-26 Anthropic（2026-08-31・アラインメントとセキュリティの取り組みの改善）原文The models—intentionally running without cyber safeguards for evaluation purposes—accessed the internet due to a misconfiguration inside a third-party evaluation environment.出典を開く確認 2026-09-26 |
提供元が一般に出している製品の形で使い、安全機構を外さない | テスト中の AI の事件は何が原因か |
| AI は意図と違う近道をとることがある | 「完了しました」ではなく結果で確かめる | 報酬ハッキングとは |
| AI は判断を誤ることがある | 情報とツールへの権限を、必要な範囲に絞る 日本 AI セーフティ・インスティテュート（AI セーフティに関する評価観点ガイド 第 1.20 版・2026-07-07）原文情報及びツールに対するアクセス権限が必要な範囲に限って付与されているか。出典を開く確認 2026-09-26 |
過剰な権限と爆発半径 |
| AI は想定外の動きをすることがある | 壊れても捨てられる場所で動かし、外への通信を閉じる | サンドボックスとは何か |
- AI エージェントの暴走を止める 4 つの防壁は AI エージェントの暴走を防ぐ にまとめてあります
- 個人向けの版のまま使うときの手は 個人版のまま、情報漏洩を防ぐ 5 つの手 にまとめてあります
ここから先は調査の詳細です（約 5 分）。上のカードだけで決められます。調べた 1 件ずつの記録は IT連携マップ に、出典 URL と調査日つきで公開しています。
調査の詳細
調べた範囲は、3 社が自ら公表した枠組みの本文と更新の告知、枠組みに沿ってモデルを判定した資料 3 本（OpenAI のシステムカード 2 本、Google DeepMind の報告書 1 本。システムカードは、開発元がモデルの能力と安全対策を説明する資料）、日本・英国・EU の公的機関の資料です。引用はすべて、2026 年 9 月 26 日にそれぞれのページを取り直し、本文に原文のまま在ることを確かめています。openai.com のページはこちらから保存できる形で取得できなかったため、OpenAI については PDF とシステムカードの公開サイトだけを使っています。
枠組みの版と、保護を上げるきっかけ
| 枠組み | 確かめた版 | 何をきっかけに、何をするか |
|---|---|---|
| Anthropic の RSP | 3.4（2026 年 7 月 8 日から有効）。Anthropic（責任あるスケーリング方針のページ・版の一覧と更新履歴）原文Version 3.4 and redline (effective July 8, 2026)出典を開く確認 2026-09-26 Anthropic（責任あるスケーリング方針のページ・版の一覧と更新履歴）原文Version 3.0 is a comprehensive rewrite of the RSP.出典を開く確認 2026-09-26 |
3.0 からは、他社がどうするかにかかわらず自社で行う対策と、業界全体で行えばリスクを十分に扱えると考える、能力の水準ごとの対策の地図とを分けて示す Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文Our RSP now outlines two sets of mitigations: first, the mitigations that we plan to pursue regardless of what others do; and second, an ambitious capabilities-to-mitigations map that, we believe, would help adequately manage the risks from advanced AI if implemented across the AI industry.出典を開く確認 2026-09-26 |
| OpenAI の Preparedness Framework | 第 2 版（2025 年 4 月 15 日更新） OpenAI（2025-04-15・Preparedness Framework 第 2 版）原文Version 2. Last updated: 15th April, 2025出典を開く確認 2026-09-26 |
High に達したモデルは、リスクを十分に下げるまで提供しない。OpenAI（2025-04-15・Preparedness Framework 第 2 版）原文We do not deploy models that reach a High capability threshold until the associated risks that they pose are sufficiently minimized.出典を開く確認 2026-09-26 OpenAI（2025-04-15・Preparedness Framework 第 2 版）原文Critical capabilities require safeguards even during the development of the covered system, irrespective of deployment plans.出典を開く確認 2026-09-26 |
| Google DeepMind の Frontier Safety Framework | 第 3.1 版（2026 年 4 月 17 日） Google DeepMind（2026-08・Gemini 3.7 Flash の Frontier Safety Framework 報告書）原文We released our Frontier Safety Framework (FSF) (v1) in May 2024 and updated it in February 2025 (v2), September 2025 (v3) and April 2026 (v3.1).出典を開く確認 2026-09-26 |
CCL の手前に警告の線を置く。警告の線に届いていなければ、次の定期試験までに作るモデルも CCL に届かないとみなす Google DeepMind（2026-08・Gemini 3.7 Flash の Frontier Safety Framework 報告書）原文Our frontier safety strategy is based on a “safety buffer” to prevent models from reaching CCLs, i.e. if a frontier model does not reach the alert threshold for a CCL, we can assume models developed before the next regular testing interval will not reach that CCL.出典を開く確認 2026-09-26 |
Anthropic — 線の判定は予想より曖昧だった
| 何が | 公表された内容 |
|---|---|
| ASL-3 の提供時の保護の対象 | 化学・生物・放射性物質・核（CBRN）兵器の開発や入手への悪用に、狭く絞ったもの Anthropic（2025-05-22・ASL-3 の保護の有効化）原文the corresponding Deployment Standard covers a narrowly targeted set of deployment measures designed to limit the risk of Claude being misused specifically for the development or acquisition of chemical, biological, radiological, and nuclear (CBRN) weapons.出典を開く確認 2026-09-26 |
| ASL-3 の有効化 | 2025 年 5 月に関係するモデルで有効にし、以後改良を続けている Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文We activated ASL-3 safeguards for relevant models in May 2025 and have been working to improve them ever since.出典を開く確認 2026-09-26 |
| 3.0 で書き直した理由 | 決めておいた能力の線が予想より曖昧で、Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文We found pre-set capability levels to be far more ambiguous than we anticipated: in some cases, model capabilities have clearly approached the RSP thresholds, but we have had substantial uncertainty about whether they have definitively passed those thresholds.出典を開く確認 2026-09-26 Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文The science of model evaluation isn’t well-developed enough to provide dispositive answers.出典を開く確認 2026-09-26 |
| 3.0 で置いた目標 | 拘束力のある約束ではなく、公開して達成度を自ら採点する目標 Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文Rather than being hard commitments, these are public goals that we will openly grade our progress towards.出典を開く確認 2026-09-26 |
| 他社への広がり | 最初の方針の公表から数か月で、OpenAI と Google DeepMind も似た枠組みを採った（Anthropic の見方） Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文within a few months of announcing our RSP, both OpenAI and Google DeepMind adopted broadly similar frameworks.出典を開く確認 2026-09-26 |
OpenAI — High から Critical へ
| 何が | 公表された内容 |
|---|---|
| サイバーの High | サイバー作業を大きな規模で行うときの既存の壁を取り除く水準 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文High cybersecurity capability is defined as a model that “removes existing bottlenecks to scaling cyber operations including by automating end-to-end cyber operations against reasonably hardened targets or by automating the discovery and exploitation of operationally relevant vulnerabilities出典を開く確認 2026-09-26 |
| サイバーの Critical | 堅く守られた多くの重要なシステムで、人の介入なしに、あらゆる深刻度のゼロデイの攻撃手段を見つけて作れる、などの水準 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文a model meets the Critical cybersecurity threshold if either of the following conditions is met: The model can identify and develop functional zero-day exploits of all severity levels in many hardened real-world critical systems without human intervention.出典を開く確認 2026-09-26 |
| GPT-6 Astra の判定 | サイバーは Critical、生物・化学は High、AI の自己改良は High に届かない OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文we determined that Astra reaches the Critical level in Cybersecurity capability, and the High level in the Biological and Chemical category. In AI Self-Improvement, Astra does not reach our High threshold.出典を開く確認 2026-09-26 |
| 判定の前に | Hugging Face の事案のあと、Astra が Critical に達しうると判断し、保護を強めた OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文Following the Hugging Face incident, we implemented strict controls for training and evaluations to address vulnerabilities that the incident brought to light. Soon after, we determined that Astra might reach the Critical level of cyber capability and further strengthened safeguards and security controls for higher-capability models and associated activities.出典を開く確認 2026-09-26 |
| 評価の入れ替え | サイバーの High を測っていた評価は、差がつかなくなった（飽和した）ため使うのをやめた OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文We have retired the evaluations we used for assessing High capability in cybersecurity – Capture the Flag (Internal) and CVE-Bench – because these evaluations have become saturated.出典を開く確認 2026-09-26 |
| 残るリスク | 監視が見逃し、介入の前に有害な行動が起きることはありうる OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文it is still possible that the monitor may miss misaligned behavior, and harmful actions can occur before it intervenes.出典を開く確認 2026-09-26 |
OpenAI は GPT-5.3-Codex のシステムカードで、サイバーの技術はもともと防御にも攻撃にも使えるので、安全を高める場面では悪用の場面より手に入れやすく、使いやすくする必要があると書いています。 出典を開く確認 2026-09-26OpenAI（2026-02-05・GPT-5.3-Codex のシステムカード）原文
Cyber capabilities are inherently dual-use: The same knowledge and techniques that underpin vitally important defensive work – penetration testing, vulnerability research, high-scale scanning, malware analysis, and threat intelligence — can also enable real-world harm. These techniques need to be more readily available, and easier to use, in contexts where they help increase security than they are for malicious purposes.
Google DeepMind — 警告の線と「人の関与」
| 何が | 公表された内容 |
|---|---|
| 第 3 版（2025 年 9 月 22 日） | 枠組みの 3 度目の版。Google DeepMind（2025-09-22・Frontier Safety Framework 第 3 版の告知、2026-04-17 更新）原文Today, we’re publishing the third iteration of our Frontier Safety Framework (FSF) — our most comprehensive approach yet to identifying and mitigating severe risks from advanced AI models.出典を開く確認 2026-09-26 Google DeepMind（2025-09-22・Frontier Safety Framework 第 3 版の告知、2026-04-17 更新）原文focused on harmful manipulation — specifically, AI models with powerful manipulative capabilities that could be misused to systematically and substantially change beliefs and behaviors in identified high stakes contexts over the course of interactions with the model, reasonably resulting in additional expected harm at severe scale.出典を開く確認 2026-09-26 |
| 第 3.1 版（2026 年 4 月 17 日） | より軽いリスクを早く見つけるため、追跡する能力の水準（Tracked Capability Level、TCL）を加えた Google DeepMind（2025-09-22・Frontier Safety Framework 第 3 版の告知、2026-04-17 更新）原文As of April 17, 2026, we are adding Tracked Capability Levels (TCLs) in certain domains to our Frontier Safety Framework, introducing a new capability level to help us spot and evaluate potential less extreme risks sooner.出典を開く確認 2026-09-26 |
| CCL の意味 | 対策が無ければ、深刻な被害のリスクが高まりうる能力の水準 Google DeepMind（2026-04-17・Frontier Safety Framework 第 3.1 版）原文These are capability levels at which, absent mitigation measures, frontier AI models or systems may pose heightened risk of severe harm.出典を開く確認 2026-09-26 |
| Gemini 3.7 Flash のサイバー | 実際には、ほとんどのサイバー作業で AI を使うには人の大きな関与が要るとして、理論上の上積みの見積もりを、人の監督を前提にした値に直している Google DeepMind（2026-08・Gemini 3.7 Flash の Frontier Safety Framework 報告書）原文In practice, significant human involvement is required to utilize AI for most cyber tasks: we therefore adjust these theoretical uplift numbers based on an SME estimate of supervision-adjusted uplift出典を開く確認 2026-09-26 |
各国の評価機関
| 機関 | 公表された内容 |
|---|---|
| 日本の J-AISI | ガイドは、AI システムを開発・提供する者が安全の評価をするときに参照する考え方を示すもの。日本 AI セーフティ・インスティテュート（AI セーフティに関する評価観点ガイド 第 1.20 版・2026-07-07）原文AI システムの開発や提供に携わる者が AI セーフティ評価を実施する際に参照できる基本的な考え方を提示する。出典を開く確認 2026-09-26 日本 AI セーフティ・インスティテュート（AI セーフティに関する評価観点ガイド 第 1.20 版・2026-07-07）原文特に、観測と制御は AI エージェントシステム特有のリスクへの対策の主軸となり得るものであり、予防的対策と組み合わせることで、問題の未然防止とインシデント発生時の迅速な対応の両立が可能となり得る。出典を開く確認 2026-09-26 |
| 英国の AISI | 2026 年 2 月の推定の後に評価した 2 つのモデル（Claude Mythos Preview と GPT-5.5）は、それまでの 2 つの推定（8 か月で倍・4.7 か月で倍）の傾向をどちらも大きく上回った 英国 AI Security Institute（2026-05-13・自律的な AI のサイバー能力はどれだけ速く伸びているか）原文In February 2026, we internally estimated that the length of cyber tasks AI models could complete had doubled every 4.7 months since late 2024 – already an acceleration from our November 2025 estimate of 8 months.出典を開く確認 2026-09-26 英国 AI Security Institute（2026-05-13・自律的な AI のサイバー能力はどれだけ速く伸びているか）原文Since then, AISI reported on two new models, Claude Mythos Preview and GPT-5.5, which substantially exceeded both doubling rate trends.出典を開く確認 2026-09-26 |
| EU | 汎用 AI 行動規範の安全とセキュリティの章が関係するのは、最先端のモデルを出す少数の提供者だけ 欧州委員会（汎用 AI の行動規範のページ・2025-07-10 公表）原文The Chapters on Safety and Security is only relevant to the small number of providers of the most advanced models, those that are subject to the AI Act's obligations for providers of general-purpose AI models with systemic risk under Article 55 AI Act.出典を開く確認 2026-09-26 |
資料どうしで食い違う・確かめられないところ
| 項目 | 内容 |
|---|---|
| OpenAI の Critical | 第 2 版は、Critical のモデルはまだ無く、そこに達する前に枠組みを更新する見込みだと書いていた。OpenAI（2025-04-15・Preparedness Framework 第 2 版）原文We do not currently possess any models that have Critical levels of capability, and we expect to further update this Preparedness Framework before reaching such a level with any model.出典を開く確認 2026-09-26 |
| 段階の物差し | ASL は保護の水準、Anthropic（2026-02-24・責任あるスケーリング方針 第 3.0 版の告知）原文Each set of safeguards corresponded to an “AI Safety Level” (ASL): for example, ASL-2 referred to one set of required safeguards, whereas ASL-3 referred to a more stringent set of safeguards needed for more capable AI models.出典を開く確認 2026-09-26 |
| 91.5% の意味 | 既知の脱獄に対する強さを測るために集めた、固定の攻撃文での値。OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文To evaluate robustness against known jailbreaks, we assembled a fixed set of challenging adversarial prompts spanning biological, violence, and cybersecurity risks.出典を開く確認 2026-09-26 OpenAI（2026-09-03・GPT-6 Astra のシステムカード）原文the evaluation prompts were intentionally adversarial and designed to jailbreak earlier models.出典を開く確認 2026-09-26 |
調べていないこと
- openai.com の記事（枠組みの更新の告知など）は、こちらから保存できる形で取得できなかったため使っていません
- Anthropic の RSP の本文（PDF）と、定期的に出すリスク報告（Risk Report）は読んでいません。3.0 以降の中身は、告知の記事と版の一覧で確かめた範囲です
- 3 社以外の開発元の枠組みと、米国の評価機関の取り組みは扱っていません