当前位置:首页 > 报告详情

网安标委:2026网络安全标准实践指南——智能体部署使用安全指引(19页).pdf

上传人: 开*** 编号:1275911 2026-07-08 19页 682.68KB

下载:
核心结论速览。 智能体部署使用须遵循全生命周期安全指引:本文件由全国网络安全标准化技术委员会(网安标委)发布,覆盖智能体从评估、准备、部署、使用到停用五个阶段的安全要求,为智能体的安全部署使用提供标准化实践指引。 评估阶段应谨慎选择智能体:应优先选择提供方同时提供智能体和配套安全防护能力的成套方案,慎重选择缺乏安全防护措施的开源项目。存在超过一个月无维护记录、已公开安全问题长期未获响应、存在未修复高危漏洞或已停止维护等情形的智能体项目不应选择。 准备阶段须确保安装物料来源可靠:应从提供方官方网站、应用商店等具备明确责任主体和发布机制的渠道获取安装文件,并通过数字签名、杂凑值等方式验证真实性和完整性。拟本地部署的应选择独立设备,不宜与日常使用设备混用。 部署阶段须落实最小权限原则:不应使用操作系统管理员权限运行智能体,宜仅授予完成预期任务所必需的最小权限。应限制智能体的可访问目录范围,为智能体建立专用工作目录,并将智能体相关服务配置为仅本机可访问。 使用阶段应加强技能安全与敏感信息保护:应使用来源可靠的技能,向智能体提供个人信息时应坚持最小必要原则,涉及生物特征、家庭隐私等敏感信息应审慎提供。应定期检查智能体公网接口必要性及安全性。 高风险操作须实行二次确认或直接阻断:应提前建立高风险操作清单,包括停止系统服务、终止进程、格式化磁盘、批量删除、权限修改、密钥更改、开放端口、修改防火墙规则等。涉及转账、支付等影响个人财产安全的操作也应列入高风险操作清单。 停用阶段须安全终止并彻底清理环境:应停止智能体主程序及所有关联服务,完成必要数据备份后根据部署环境执行清理操作。本地部署的应通过官方卸载程序卸载或重置操作系统,云环境部署的应关闭公网入口并删除相关数据及凭证。研究背景与全景图谱。2026年7月,全国网络安全标准化技术委员会秘书处发布《网络安全标准实践指南——智能体部署使用安全指引》(v1.0-202607),旨在围绕网络安全法律法规政策、标准、网络安全热点和事件等主题,提供标准化实践指引。本文件由中国电子技术标准化研究院、国家计算机网络应急技术处理协调中心、清华大学、浦江国家实验室、北京中关村实验室等20余家单位共同起草。文件覆盖智能体从评估、准备、部署、使用到停用五个阶段的安全指引,适用于智能体部署使用的安全风险防范,也可为选择使用商业智能体服务提供参考。本文件特指面向个人助手场景、需要用户授予较高权限、基于大模型的人工智能智能体(一般为软件系统)。文件结构包括:范围、规范性引用文件、术语和定义、缩略语、概述、评估阶段、准备阶段、部署阶段、使用阶段、停用阶段,以及附录A(安全检查清单)和附录B(安全管理指引)。智能体相关术语定义。智能体(agent) :具备自主感知、记忆、决策、交互与执行能力的智能系统。本文件特指面向个人助手场景、需要用户授予较高权限、基于大模型的人工智能智能体,一般为软件系统。工具(tools) :赋予智能体调用外部能力的标准化接口,定义了执行某一原子操作的名称、输入参数和返回结果。技能(skills) :面向特定任务的标准化指令集合,封装了完成某类任务的最佳实践、操作流程和领域知识。评估阶段安全指引。评估阶段主要在智能体部署使用前进行评估,包括使用智能体的必要性、开源智能体与商业智能体的适用性,以及拟选择智能体是否具备基础安全特性要求等方面。核心要求:a)应明确使用目的、业务场景、工作任务,评估采用智能体完成相关任务的必要性与合理性。b)应预先了解智能体的技术特性、能力边界、安全风险,以及开源智能体与商业智能体的主要差异。c)应谨慎选择拟部署使用的智能体,宜优先选择由提供方同时提供智能体和配套安全防护能力的成套方案,慎重选择缺乏安全防护措施的开源项目。选择商业智能体时,应认真阅读提供方发布的安全注意事项,并依据本文件后续章节核对其安全特性,在满足要求时无需重复采取后续安全措施。选择需自行实施安全防护的开源智能体时,应依据本文件后续章节加强安全防护。d)应检查拟部署使用智能体项目的维护状态,存在下列情形之一的智能体项目,不应选择:1)超过一个月无维护记录,且存在未解决的安全问题;。2)已公开的安全问题长期未获响应;。3)存在未修复的高危漏洞;。4)提供方明确已停止维护。e)宜优先选择集成安全沙箱、高风险操作管控、急停控制、可回溯文件系统等机制的智能体;不应选择缺少日志审计、权限管理等基础性安全机制的智能体。f)应检查拟部署使用的智能体是否存在自动开放公网接口、强制回传运行数据等重大安全隐患。准备阶段安全指引。准备阶段主要对智能体的安装部署进行准备,包括安装物料、部署环境、大模型、安全防护等方面。安装物料安全:1)应从提供方官方网站、应用商店等具备明确责任主体和发布机制的渠道获取智能体安装文件、容器镜像等安装物料;不应使用来自网盘、论坛、即时通信群组等渠道的修改版、二次分发版、破解版或其他不明来源的安装物料。2)安装智能体前,宜通过发布主体提供的数字签名、杂凑值、校验码等方式验证安装物料的真实性和完整性,防范安装物料被投毒或篡改。部署环境安全:1)拟在本地环境直接部署的,应选择独立设备安装智能体,不宜与日常生活、工作办公等用途的设备混用。部署前宜对设备内原有文件进行备份;设备中存在敏感数据、隐私文件的,应提前进行清理或迁移。2)拟在虚拟机、容器等虚拟化环境部署的,应通过禁止虚拟机访问其宿主机内文件等配置实施严格隔离,防止安全问题扩散至宿主机。3)拟在云环境部署的,应选择具备智能体身份管理、访问控制、日志审计和安全告警等能力的云平台。部署前宜向云平台服务提供商确认其提供的安全能力是否满足本文件相关要求。大模型选择:1)应选择已通过生成式人工智能服务备案的大模型。2)对数据安全、隐私保护有相关要求,且具备相关算力条件和技术基础的,宜优先采用本地化部署的大模型。3)调用外部大模型服务的,应使用大模型服务提供方的官方接口,不应通过来源不明的中转站、未授权代理等方式调用大模型。4)应根据智能体任务复杂度和安全需求,选择上下文窗口、能力边界、安全水平满足要求的大模型,避免因上下文窗口长度或安全能力不足引发智能体误操作。安全能力增强:应根据安全需求,对所选智能体及大模型已有安全机制进行差距分析。以下安全能力存在不足的,宜通过部署安全工具或接入安全服务等方式进行增强:1)输入输出内容安全保护;。2)智能体行为管控(如运行时行为监控、异常熔断等);。3)智能体身份与凭证安全管理;。4)智能体供应链(如技能、工具等)安全检测;。5)高风险操作拦截与管理;。6)基于沙箱等技术的环境隔离;。7)资源消耗与成本控制。部署阶段安全指引。部署阶段对智能体部署提出安全指引,包括部署方式、插件安装、运行账户、权限配置、网络暴露控制、日志审计、高风险操作管理等方面。a)应根据智能体提供方的官方文档或经核验的部署脚本进行部署,不应采用来源不明的一键部署等便捷化脚本。b)需要额外安装插件的,应在安装前检查插件来源的可靠性,不应安装来源不明、存在未修复高危漏洞、权限需求异常或与预期任务无关的插件。c)不应使用操作系统管理员权限运行智能体。宜仅授予智能体完成预期任务所必需的最小权限,以降低智能体越权操作和被滥用时的影响范围。d)应限制智能体的可访问目录范围,不应授予智能体使用者主目录、系统目录等重要位置的默认访问权限。宜为智能体建立专用工作目录,仅将任务必需文件置入该目录中。e)应将智能体及其相关服务配置为仅本机可访问,不开放至外部网络,防止未授权的远程调用。确需通过互联网访问智能体的,应配置加密访问,并限制访问来源。f)应开启智能体的日志记录功能,对文件操作、指令执行、网络活动、技能调用等行为进行全量日志记录,宜将记录粒度设置为可支持的最细级别。g)应提前建立高风险操作清单,并通过智能体安全机制进行管理,对清单内操作实行二次确认或直接阻断,高风险操作包括但不限于:停止与停用系统服务、终止进程、格式化或复写磁盘、批量删除、权限修改、密钥更改、开放端口、修改防火墙规则、修改系统设置、访问密码管理器等。宜根据智能体使用目的,将涉及转账、支付等影响个人财产安全的操作列入高风险操作清单。使用阶段安全指引。使用阶段对智能体的使用提出安全指引,包括安全复查、技能安全、敏感信息保护、网络访问安全、长期记忆管理、应急处置与更新等方面。安全复查:应对智能体安装与配置情况进行复查,包括:1)使用者是否可以有效了解智能体执行状态;。2)使用者是否可以对智能体所执行的操作进行安全管理,例如配置黑名单、白名单等;。3)使用者是否可以便捷地急停控制智能体。技能安全:1)应使用来源可靠的技能;。2)宜对技能进行全面安全测试,使用未经安全测试的技能时,应提前做好风险防范准备。敏感信息保护:1)向智能体提供个人信息时,应坚持最小必要原则,涉及生物特征、家庭隐私等敏感信息的,应审慎提供;。2)未获得第三方授权时,不应向智能体提供第三方的个人信息及敏感数据;。3)不应向智能体提供使用者未获得许可的业务数据及涉及知识产权的内容。其他要求: 通过互联网访问智能体的,应定期检查智能体公网接口必要性及安全性,及时关闭非必要暴露的接口。 使用智能体获取网络信息服务或参与网络社交媒体讨论的,应符合网络安全相关法律法规要求。 宜定期开展智能体运行环境内有价值数据的容灾备份。 宜定期手动查看长期记忆文件记录的内容,对不宜存储的个人信息、隐私数据、内部信息及时进行处理,并相应调整长期记忆配置策略。 宜及时回收敏感权限,定期清理不再使用的技能与敏感对话记录,开启多因素鉴别以保护账户安全。 应及时对已部署安全工具、安全服务的告警信息进行核查处置,并根据获取到的其他安全威胁信息、风险提示等,对智能体部署使用情况进行安全复查,及时消除安全隐患。 应持续关注智能体运营方、安全企业发布的安全公告,当出现影响特定版本的安全事件时,根据安全公告采取相应措施(如升级、降级或版本锁定),避免长期使用存在已知漏洞或已停止维护的版本。停用阶段安全指引。停用阶段对智能体停用提出安全指引,包括安全地终止运行、清理数据与权限、完成环境回收等方面。a)应停止智能体主程序,以及所有关联服务与后台进程的运行,确认智能体已完全退出运行状态。b)在清理环境前,应对仍需保留的会话记录、配置文件、知识库文件、日志等数据进行容灾备份。c)完成必要数据备份后,根据部署环境执行相应的环境清理操作:1)本地环境部署的,如智能体提供方配备官方卸载程序,应通过官方卸载程序进行卸载,并在卸载后检查相关进程、端口和网络连接等情况确认无残留;如无官方卸载程序,应重置操作系统。2)云环境部署的,应关闭与该智能体有关的公网访问入口,删除不再使用的工作文件,以及该智能体相关的知识库、日志、长期记忆、插件和技能配置等数据,并同步撤销API密钥、服务账号凭据、第三方应用授权等相关凭证和权限。3)虚拟化环境部署的,宜直接停用该虚拟化环境,无法停用该虚拟化环境的,应参照本地环境相关指引进行环境清理。4)停用智能体后,应及时确认终止相关服务、取消订阅及自动续费,关注大模型接口是否产生异常费用。附录A:安全检查清单。附录A提供了部署使用安全检查清单,按评估、准备、部署、使用、停用五个阶段列出检查项,并标注重要性等级(★★★为最重要)。主要检查项包括: 评估阶段:判断是否需要由智能体解决目标任务、整体了解智能体有关知识、选择自带安全防护机制的智能体、检查项目维护动态等。 准备阶段:从具备明确责任主体和发布机制的渠道获取安装物料、选择合适部署方式并落实安全防护措施、选择合适的运行大模型、校验安装物料真实性和完整性等。 部署阶段:不通过来源不明的一键部署脚本、对网络暴露形式进行安全配置、开启日志记录功能、安装前检查插件来源、不使用管理员权限运行、限制可访问目录范围、提前定义高风险操作等。 使用阶段:加强对技能使用的安全防护、加强个人信息及敏感数据防护、合法合规使用智能体、对安装与配置情况进行复查、定期检查公网接口、定期备份有价值数据、定期查看长期记忆、及时回收敏感权限、关注告警信息、关注安全公告等。 停用阶段:在卸载前停止运行、对需要保存的数据进行导出或转存、执行环境清理操作等。附录B:安全管理指引。附录B为组织内部使用智能体的安全管理提供指引,建议围绕以下方面做好管理工作:建立内部智能体使用管理制度:包括禁止行为要求(不将组织内部数据或系统接口接入未经审批通过的智能体等)、使用边界要求(遵循最小授权原则)、审批流程要求(部署前申请、评估、审批和备案)。建立智能体资产登记表:记录智能体信息(名称、用途、业务归属)、部署位置信息(主机物理位置、IP地址、容器名称)、开发者信息(部署人、部署时间、责任人)、模型信息(大模型名称、版本及接入方式)、工具组件信息(技能、插件及外部工具列表)、访问控制信息、授权信息、审查记录信息等。对已审批智能体活动进行管理:对关键活动进行日志记录(高权限指令执行、敏感数据访问、内部系统接入、外部数据传输、权限变更、工具调用和异常操作等),使用人工智能、规则分析或其他技术手段进行风险分析,周期性分析排查日志记录。建立未审批智能体的发现能力:定期扫描组织内网中典型智能体服务端口、分析网络流量日志识别异常通信、识别与已知大模型API端点通信的内网主机、检索安装或运行智能体相关进程的终端。开展员工安全教育:提升员工对智能体安全风险的认知,内容包括提示词注入攻击、供应链安全、凭证泄露、数据泄露、越权访问、违规使用责任等。延伸阅读:以上为指引核心内容,如需获取完整文件详细内容及全部附录,请访问下载页下载完整PDF报告。FAQ。Q1:本文件适用于哪些类型的智能体?A:本文件特指面向个人助手场景、需要用户授予较高权限、基于大模型的人工智能智能体,一般为软件系统。覆盖从评估、准备、部署、使用到停用五个阶段的安全指引。Q2:选择智能体时有哪些“红线”指标?A:存在以下情形之一的智能体项目不应选择:超过一个月无维护记录且存在未解决安全问题、已公开安全问题长期未获响应、存在未修复高危漏洞、提供方明确已停止维护。Q3:智能体部署时应如何配置权限?A:不应使用操作系统管理员权限运行智能体,应仅授予完成预期任务所必需的最小权限。应限制可访问目录范围,为智能体建立专用工作目录。应将智能体相关服务配置为仅本机可访问。Q4:哪些操作应列入高风险操作清单?A:包括停止系统服务、终止进程、格式化磁盘、批量删除、权限修改、密钥更改、开放端口、修改防火墙规则、修改系统设置、访问密码管理器等。涉及转账、支付等影响个人财产安全的操作也应列入。Q5:组织应如何管理内部智能体的使用?A:建立内部智能体使用管理制度,明确禁止行为、使用边界和审批流程;建立智能体资产登记表;对已审批智能体活动进行日志记录和风险分析;建立未审批智能体的发现能力;开展员工安全教育。数据来源说明。本文件来源于全国网络安全标准化技术委员会秘书处《网络安全标准实践指南——智能体部署使用安全指引》(v1.0-202607),2026年7月发布。
word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
1. **范围与目的**:覆盖智能体评估、准备、部署、使用、停用全生命周期安全指引,适用于风险防范及商业服务参考。 2. **核心要求**: - **评估阶段**:优先选择自带安全防护(如沙箱、日志审计)的智能体,禁用无维护或高危漏洞项目。 - **部署阶段**:最小权限运行,限制目录访问,禁止公网暴露,高风险操作(如系统服务停用)需二次确认。 - **使用阶段**:保护敏感数据,定期备份,清理长期记忆,关注安全公告及时更新。 3. **组织管理**:需建立使用制度、资产登记表及行为审计,员工需培训提示词注入、供应链安全等风险。 4. **关键数据**:起草单位26家(如中国电子标准院、华为、腾讯),主要起草人48名(姚相振等)。
**智能体安全?** **如何选智能体?** **停用怎么清?**
客服
商务合作
小程序
服务号
折叠