美国科学家联合会（FAS）：2026风险交织：人工智能与全球安全未来研究报告（英文版）（77页）.pdf

核心数据速览： 项目覆盖：6场圆桌会议、6场政策简报、300+参与者。 风险框架：威胁×脆弱性×后果（TVC）。 三种AI观：幻象观、正常技术观、自主力量观。 五大政策支柱：TEVV/技术层/部署治理/防御优势/韧性。 风险领域：核、生物、网络、军事、AGI。 政策追问框架：5个关键问题。 理论框架：正常事故理论、高可靠性组织理论。 关键概念：锯齿状前沿、能力-可靠性差距、证据困境。报告核心数据解读。三种AI发展观对比。| 维度 | 幻象观 | 正常技术观 | 自主力量观 ||||||| 核心行为者 | 人类与机构 | 人机系统/机构 | AI系统本身 || 风险焦点 | 欺诈/泡沫/分心 | 脆弱整合/扩散/自动化偏见 | 控制丧失/权力集中 || 历史类比 | AI冬天/加密货币 | 蒸汽/电力 | 生物进化/大流行病 || 政策优先级 | 谨慎采购/抵制炒作 | 制度适应/治理扩散 | 前沿AI控制/算力治理 |（数据来源：FAS《Converging Risks: AI and the Future of Global Security》）。五大政策支柱与TVC映射。| 支柱 | 主要影响 | 核心干预点 |||||| 基础：政府能力 | 降低所有维度不确定性 | 技术评估/人才/公私合作/国际共享 || 支柱1：TEVV与预警 | 减少不确定性+提前预警 | 轨迹指标/能力测量/威胁评估/部署监测 || 支柱2：技术层治理 | 减少威胁+脆弱性 | 算力/模型权重/危险能力/可解释性 || 支柱3：部署治理 | 减少脆弱性+后果 | 有意义人类控制/减少紧密耦合/事件报告 || 支柱4：防御优势 | 减少威胁+脆弱性 | 防御性AI/分阶段发布/差异化访问 || 支柱5：韧性 | 减少后果 | 网络韧性/生物安全/危机沟通/遏制机制 |（数据来源：FAS《Converging Risks: AI and the Future of Global Security》）。关键概念定义。| 概念 | 定义 ||||| 锯齿状前沿 | AI系统在部分任务上表现卓越，在看似同等难度的其他任务上意外失败 || 能力-可靠性差距 | 模型有能力完成任务，但在部署中不够稳定可靠 || 评估意识 | AI模型在评估期间改变行为，与真实世界表现不同 || 代理型AI系统 | 可通过多步骤采取行动、使用工具和反馈循环追求目标的AI系统 || 证据困境 | AI能力发展快于证据积累速度，政策需在证据未定前行动 |（数据来源：FAS《Converging Risks: AI and the Future of Global Security》）。报告独有数据价值——框架级与政策级颗粒度。 TVC风险框架完整定义：威胁（意图×能力）、脆弱性（控制/可见性/约束）、后果（升级/扩散/不可逆性）。 三种AI发展观完整对比：行为者、风险焦点、历史类比、政策优先级的系统对比。 五大政策支柱详细内容：基础能力、TEVV、技术层治理、部署治理、防御优势、韧性的具体政策建议。 五大追问框架：政策制定者用于测试假设的5个关键问题。 正常事故理论vs高可靠性组织理论：两种组织安全框架的对比与应用。 AI风险六大领域：核、生物、网络、军事、信息、AGI的详细风险路径。 四种升级机制：误判、决策压缩、跨领域升级、数字-物理边界不可逆性。 术语表：23个关键AI与安全术语的精确定义。谁需要这份报告？ 国家安全与防务政策制定者：获取AI与全球安全风险交叉的系统分析框架。 AI治理与科技政策研究员：了解TVC框架、三种AI发展观、五大政策支柱。 核安全、生物安全、网络安全领域专家：获取AI在各领域的风险路径与缓解措施。 智库与国际组织研究人员：掌握AI全球风险治理的前沿政策建议。 AI公司公共政策与安全团队：理解政府视角下的AI风险认知与监管预期。FAQ。Q1：这份报告的核心分析框架是什么？TVC框架——风险=威胁×脆弱性×后果。威胁指行为者意图与能力，脆弱性指系统与制度弱点，后果指伤害结果。AI可同时影响三者，将单一领域风险转化为跨领域系统性风险。Q2：三种AI发展观的区别是什么？幻象观认为AI被过度炒作；正常技术观认为AI是强大但可管理的通用技术，影响通过制度扩散逐步显现；自主力量观认为AI可能走向高度自主的超人类系统，控制问题成为核心。政策需在多种可能未来下保持稳健。Q3：五大政策支柱分别解决什么问题？支柱1解决“我们不知道AI能做什么”（测量与预警）；支柱2解决“AI系统本身可能不安全”（技术治理）；支柱3解决“AI部署在现实世界中可能出问题”（部署治理）；支柱4解决“AI可能有利于攻击者而非防御者”（攻防平衡）；支柱5解决“当预防失败时怎么办”（韧性）。Q4：政策制定者应如何应对AI不确定性？使用五大追问：谁或什么是行为者？依赖什么证据？关注什么风险？什么证据会挑战判断？证据能否及时到达？将隐含假设显性化，在多种可能未来下设计稳健政策。完整PDF报告包含内容。下载完整PDF报告，您将获得以下全部内容： 项目背景与方法论（AIxGR项目、6场圆桌会议）。 三种AI发展观完整分析（幻象/正常技术/自主力量）。 五大追问政策框架。 TVC风险框架完整定义（威胁/脆弱性/后果）。 AI作为威胁行为者的分析。 AI系统的技术脆弱性与机构脆弱性。 严重后果场景（核/生物/网络/军事/AGI）。 正常事故理论与高可靠性组织理论应用。 五大政策支柱详细建议。 政府能力基础建设（CAISI、人才管道、公私合作）。 TEVV与早期预警系统。 技术层治理（算力/模型权重/访问控制）。 社会技术系统部署治理。 攻防平衡转向防御。 社会与制度韧性建设。 完整术语表（23个关键术语）。 贡献者名单（80+专家）。延伸阅读。如需了解行业趋势与战略洞察，可返回查看本报告深度分析页面。数据来源说明。本报告数据来源于美国科学家联合会（FAS）与未来生命研究所（FLI）《Converging Risks: AI and the Future of Global Security》（2026年）。