1、AI 智能体安全治理白皮书 1 版权声明版权声明 AI 智能体安全治理白皮书 由中国电信集团有限公司牵头，联合公安部第三研究所、信息安全研究杂志社、华为技术有限公司、蚂蚁科技集团股份有限公司、清华大学、上海交通大学共同编写完成。本白皮书的版权归上述编写单位共同所有。未经许可，任何机构或个人不得以任何形式对本白皮书的全部或部分内容进行复制、转载、摘编、发行或用于商业用途。若需引用、转载或使用本白皮书内容，必须注明来源为AI 智能体安全治理白皮书，且不得对内容进行歪曲或篡改。本白皮书所载内容仅供参考，编写单位对因使用本白皮书内容而导致的任何直接或间接后果不承担法律责任。AI 智能体安全治理白皮书

2、2 目录目录 前言.1 一、背景概述 1.1 AI 智能体定义.4 1.2 AI 智能体安全风险.6 1.3 AI 智能体安全治理.7 二、AI 智能体安全风险 2.1 感知层风险.11 2.2 决策层风险.13 2.3 记忆层风险.15 2.4 执行层风险.17 三、AI 智能体安全治理 3.1 感知层安全.19 3.2 决策层安全.21 3.3 记忆层安全.22 3.4 执行层安全.23 AI 智能体安全治理白皮书 2 四、AI 智能体安全治理实践 4.1 智能体平台安全治理实践.25 4.2 MCP 安全治理实践.28 4.3 端侧智能体安全评测实践.31 五、持续提升建议.37 附录.

3、40 参考文献.42 AI 智能体安全治理白皮书 1 前言前言 当前，人工智能技术正经历从“对话智能”向“决策智能”跃迁的关键发展阶段。基于大语言模型的 AI 智能体已实现质的突破，其功能定位已从基础指令执行单元转型升级为具备复杂认知推理与战略决策能力的智能系统，最终发展为能够自主感知环境态势、独立制定行动方案并高效执行任务的数字协作伙伴。这一技术范式的革新显著拓展了人工智能的应用疆域，在金融风险管控、智慧医疗体系、先进制造产业及社会化公共服务等诸多领域，AI 智能体正持续推动生产模式与服务形态的深度变革。然而，技术能力的显著提升亦伴随着潜在风险的同步增长。近期发生的多起人工智能智能体安全事件

4、，充分暴露了该领域现存的脆弱性特征。以 2025 年 4 月发生的典型案例为例，研究人员发现某公司开发的智能体演示系统存在重大安全隐患，攻击者仅需在网页界面植入下载并运行特定工具等常规自然语言指令，即可成功诱导已获计算机操作权限的智能体程序下载并执行木马程序，导致目标主机在极短时间内遭受入侵。该案例明确显示，当 AI 智能体被赋予自主执行权限时，常规语言交互机制可能被恶意利用作为远程攻击的后门通道。此外，InvariantLabs 研究机构近期披露了一种针对终端智能体的新型提示词注入攻击手法。攻击者通过将恶意指令AI 智能体安全治理白皮书 2 嵌入 WhatsApp 即时通讯软件的超长滚动文本

5、信息中，诱使用户执行滑动至页面底部的操作行为。在此过程中，智能体系统错误地将该用户交互行为解读为默认授权指令，进而在用户完全不知情的状态下实施隐私数据窃取。值得注意的是，该攻击方法通过精心设计的技术路径，有效规避了传统安全审计机制的监测，展现出极强的隐蔽性与危害性。在此背景下，中国电信携手合作伙伴共同编制并正式发布AI 智能体安全治理白皮书。该白皮书基于感知决策记忆执行四层核心架构体系，系统性地梳理了智能体在全生命周期运行过程中的关键风险节点；在技术实施路径与治理框架设计方面，坚持技术防护与制度规范并重原则，创新性地提出覆盖数据感知、模型推理、记忆保护及任务执行等环节的全维度安全治理方案；通过

6、遴选具有代表性的行业典型案例，深入阐释 AI 智能体风险在不同应用场景中的具体防控措施，并提炼形成具有重要参考价值的治理实践经验。本白皮书旨在为产业界、学术界及政策制定机构构建系统化的参考体系，既有助于社会公众正确认知 AI 智能体的应用价值与潜在风险，亦为治理主体与技术开发者提供具备实操性的解决方案，以期共同促进 AI 智能体技术沿着安全、可控、可信的发展路径实现健康可持续发展。本白皮书由中国电信集团有限公司牵头，内部组织中国AI 智能体安全治理白皮书 3 电信研究院、天翼安全科技有限公司、中电信人工智能科技（北京）有限公司、中国电信人工智能研究院、中国电信股份有限公司云南分公司，外部联合公