《上海人工智能实验室‌&信通院&蚂蚁：终端智能体安全2025白皮书（41页）.pdf》由会员分享，可在线阅读，更多相关《上海人工智能实验室‌&信通院&蚂蚁：终端智能体安全2025白皮书（41页）.pdf（41页珍藏版）》请在三个皮匠报告上搜索。

1、终端智能体安全（2025）引言在数字化、智能化加速融合发展的今天，终端智能体正在成为人工智能深度落地的核心载体与未来演进的必然趋向，其应用价值日益凸显。终端智能体作为深度融合 AI 技术、物联网、大数据等前沿技术的新一代智能实体，其核心价值在于构建了“感知分析决策执行”的闭环智能决策链，拓展了人类认知与实践的深度与广度。目前，终端智能体已经在生活娱乐、医疗健康、工业制造、智能家居等垂直场景实现了纵深渗透与价值释放，正在成为驱动产业系统重塑、生活范式重构的核心引擎。然而，终端智能体在重塑人机关系的进程中，安全问题已成为不容忽视的关键制约因素。其广泛的连接性与复杂的技术架构使其面临着来自恶意攻击、

2、数据泄露、越权操作、隐私侵犯、算法偏见等诸多维度的安全威胁。因此，强化终端智能体安全研究，构建全方位、多层次的安全防护体系，已成为保障相关产业安全、健康、可持续发展的当务之急。围绕构建终端智能体全多维防护体系这一核心目标，本报告立足全景式呈现终端智能体安全领域的现状、挑战与发展趋势，其核心研究范畴包括终端智能体面临的风险与挑战分析、安全技术、安全生态建设、安全实践案例分析四个部分。通过聚焦终端智能体系统的不同层面以及不同应用场景下的安全需求，深入剖析各环节的安全风险与应对策略，旨在为业内提供全面且具针对性的、可参考的安全指引。本报告由上海人工智能实验室、中国信通院、蚂蚁集团、IIFAA 互联网

3、可信认证联盟四家单位联合撰写。为确保研究的科学性与实用性，本报告综合运用文献研究、行业调研、技术分析和典型案例呈现等方式开展研究工作，分析终端智能体的实际安全痛点与需求，提炼可推广的安全技术策略与参考实践。本报告旨在为终端智能体安全领域提供系统性参考与前瞻性洞察，但鉴于技术演进与产业实践的发展性和动态性，报告中的观点难免存在疏漏与不足，诚挚欢迎各界专家学者批评指正。终端智能体安全编写组上海人工智能实验室王迎春 徐 甲 滕 妍 胡舒悦 丛怡雯中国信通院廖运发 果 敢 常永波 牛晓芳 袁 琦 彭 莉 田 琛 张宏星 章 舟 蚂蚁集团陈 亮 王维强 万小飞 沙泽阳 吴 炎 曹思怡 杨明洋 孙博文 乔

4、 智 崔世文 杨小芳 孟昌华 马绍青 张 璇 朱 丛 罗 清 侯佳龙I I F A A互联网可信认证联盟邵晓东 郑 亮 吴思捷 文 军 闫 冬特别感谢杭州灵伴科技有限公司吉利汽车集团上海氦川科技有限公司终端智能体安全（2025）II7.2 智能座舱助手安全实践.-63-7.3 智能体平台安全实践.-66-八、未来展望.-69-8.1 应用向深向实发展催生安全技术创新需求.-69-8.2 生态共建助力终端智能体安全发展.-70-8.3 完善标准体系及强化测试认证将进一步筑牢终端智能体安全基石.-71-8.4 政策精准发力引领产业驶入安全发展快车道.-72-I目录引言.III一、概述.-1-1.1

5、 终端智能体概念辨析.-1-1.2 终端智能体发展概览.-2-1.3 终端智能体安全挑战.-4-1.4 终端智能体安全研究范畴.-6-二、终端智能体安全框架.-9-2.1 总体框架.-9-2.2 终端智能体安全体系概述.-9-三、单智能体安全.-11-3.1 行业现状.-11-3.2 安全风险分析.-11-3.3 安全技术.-16-四、多智能体的可信互连.-23-4.1 行业现状.-23-4.2 安全风险分析.-25-4.3 安全技术.-32-4.4 安全技术体系.-38-五、AI 终端安全.-43-5.1 行业现状.-43-5.2 安全风险分析.-44-5.3 安全技术.-47-六、终端智能

6、体安全技术生态体系.-49-6.1 共建评测框架和资源体系.-49-6.2 共建终端智能安全解决方案与服务平台.-53-6.3 共建终端智能技术基准体系.-56-七、终端智能体安全实践.-60-7.1 智能眼镜助手安全实践.-60-终端智能体安全（2025）1-1-一、概述1.1 终端智能体概念辨析YD/T 4929-2024 面向多智能体系统的计算平台技术要求 定义智能体（agent）是一个处于环境之中，可以感测环境并且执行相应的动作，同时逐渐建立自己的活动规划以应对未来可能感测到的环境变化的实体。人工智能医疗器械质量要求和评价 第 1 部分：术语（征求意见稿）定义人工智能体（Al agen