国家市监总局：2025网络安全技术 生成式人工智能服务安全基本要求（31页）.pdf

核心数据速览： 标准号：GB/T 45654-2025。 标准名称：网络安全技术 生成式人工智能服务安全基本要求。 发布日期：2025年7月25日。 实施日期：2026年7月1日。 归口单位：全国网络安全标准化技术委员会（SAC/TC260）。 安全维度：3个（训练数据安全/模型安全/安全措施）。 安全风险类型：31种（5大类）。 训练数据违法不良信息红线：不超过5%。 模型生成内容合格率：不低于90%。 关键词库规模：不少于10000个，每周更新。 生成内容测试题库：不少于2000题，每月更新。 拒答测试题库：不少于500题（应拒答）+ 500题（非拒答）。 信息收集关闭方式：不超过4次点击。一、标准核心数据解读。（一）标准基本信息。GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》由全国网络安全标准化技术委员会（SAC/TC260）提出并归口。标准于2025年7月25日发布，2026年7月1日正式实施。本文件重点面向具有舆论属性或者社会动员能力的生成式人工智能服务，支撑备案管理、检测评估等方面工作开展。（二）标准三大安全维度。标准围绕生成式人工智能服务安全，建立了三大维度的安全要求体系：1. 训练数据安全（第4章） ： 数据来源安全：来源选择（违法不良信息≤5%）、来源多样性（多种语言/多种类型多个来源）、来源管理追溯。 数据内容管理：内容过滤（全部训练数据过滤）、知识产权保护、个人信息保护。 数据标注安全：标注人员管理、标注规则（31种安全风险）、标注内容准确性、标注数据隔离存储。2. 模型安全（第5章） ： 模型训练安全、模型输出安全（合格率≥90%）、模型监测测评、模型更新升级安全、模型环境安全。3. 安全措施（第6章） ： 服务适用人群/场合/用途、服务透明度、输入信息收集管理（关闭≤4次点击）、投诉举报、使用者服务、服务稳定持续、端侧模型服务。（三）31种安全风险分类。| 类别 | 风险数量 | 主要内容 |||||| A.1 违反社会主义核心价值观 | 8种 | 煽动颠覆国家政权、危害国家安全、宣扬恐怖主义/极端主义等 || A.2 歧视性内容 | 9种 | 民族/信仰/国别/地域/性别/年龄/职业/健康歧视等 || A.3 商业违法违规 | 5种 | 侵犯知识产权、违反商业道德、泄露商业秘密等 || A.4 侵犯他人合法权益 | 6种 | 危害身心健康、侵害肖像权/名誉权/隐私权等 || A.5 特定服务类型安全需求 | 2种 | 内容不准确、内容不可靠 |（四）关键引用标准。标准规范性引用了以下标准： GB/T 25069 信息安全技术 术语。 GB/T 41867—2022 信息技术 人工智能 术语。 GB/T 45674 网络安全技术 生成式人工智能数据标注安全规范。 GB/T 45652 网络安全技术 生成式人工智能预训练和优化训练数据安全规范。二、标准独有数据价值——条款级颗粒度。训练数据违法不良信息5%红线：数据采集前随机抽样安全评估、采集后随机抽样安全核验，含违法不良信息超过5%的数据来源不得采集或用作训练。数据来源多样性要求：每一种语言的训练数据以及每一种类型的训练数据（文本、图片、音频、视频等）均应有多个训练数据来源。标注人员职能分离要求：标注人员职能至少划分为标注执行、标注审核等；在同一项标注任务中，标注执行人员和标注审核人员不应由同一人员承担。安全性标注数据隔离存储：服务提供者宜对安全性标注数据进行隔离存储。模型后门检测要求：应定期对模型进行后门存在性检测，如发现存在后门风险，应及时处置。训练推理环境隔离：应将模型训练环境与推理环境隔离，避免数据泄露、不当访问等安全事件。未成年人防沉迷要求：服务适用未成年人的，应允许监护人设定未成年人防沉迷措施。监看人员配置要求：应设置监看人员，监看人员数量应与服务规模相匹配。端侧模型激活要求：应在使用者首次使用服务时通过官方途径进行激活。关键词库建设标准：总规模不少于10000个；至少覆盖17种安全风险；每周至少更新一次。生成内容测试题库标准：总规模不少于2000题；完整覆盖31种安全风险；每月至少更新一次。拒答测试题库标准：应拒答测试题库不少于500题；非拒答测试题库不少于500题；每月至少更新一次。人工抽检合格率标准：训练数据内容过滤人工抽检合格率不低于96%，技术抽检合格率不低于98%。模型拒答率标准：应拒答测试题库拒答率不低于95%，非拒答测试题库拒答率不高于5%。数据来源：以上数据基于GB/T 45654-2025标准文本。三、谁需要这份标准？ 生成式AI服务提供者与大模型厂商：对照标准建立训练数据安全、模型安全、安全措施全流程合规体系。 企业AI安全负责人与合规人员：了解生成式AI服务的具体安全合规要求，制定内部管理制度。 AI数据服务商与数据标注企业：掌握数据标注人员管理、标注规则、标注内容准确性等具体要求。 第三方安全评估机构：按照附录B安全评估参考方法建立系统化的评估能力。 AI投资机构与产业研究机构：评估AI安全合规赛道的市场规模与增长潜力。四、FAQ。问1：GB/T 45654-2025与GB/T 45652-2025是什么关系？答：GB/T 45652-2025《生成式人工智能预训练和优化训练数据安全规范》聚焦于训练数据安全。GB/T 45654-2025涵盖了训练数据安全、模型安全、安全措施三个维度，范围更广。两者可结合使用。问2：标准对训练数据来源有什么要求？答：来源选择上违法不良信息不得超过5%；来源多样性上每一种语言和每一种类型的训练数据均应有多个来源；来源管理上开源/自采/商业/使用者输入等不同来源均有具体管理要求。问3：模型生成内容的合格率标准是多少？答：不低于90%。合格率是指抽样中不包含附录A所列出31种安全风险的样本所占的比例。问4：安全性数据标注有什么特殊要求？答：每一条安全性标注数据应至少经由一名审核人员审核通过。宜对安全性标注数据进行隔离存储。安全性标注规则宜覆盖全部31种安全风险。问5：标准对安全评估准备有什么量化要求？答：关键词库不少于10000个（每周更新）；生成内容测试题库不少于2000题（每月更新）；拒答测试题库不少于1000题（每月更新）。问6：收集使用者输入信息用于训练有什么限制？答：应为使用者提供关闭方式，关闭方式应便捷（不超过4次点击）。应显著告知使用者收集状态及关闭方式。五、完整PDF报告包含内容。本标准完整PDF包含以下详细内容（基于GB/T 45654-2025正式版）： 标准全文（含前言、引言、正文及附录）。 训练数据安全完整条款（数据来源安全、数据内容管理、数据标注安全）。 模型安全完整条款（模型训练安全、模型输出安全、模型监测测评、模型更新升级安全、模型环境安全）。 安全措施完整条款（服务适用人群/场合/用途、服务透明度、输入信息收集管理、投诉举报、使用者服务、服务稳定持续、端侧模型服务）。 训练数据及生成内容主要安全风险完整清单（31种风险分类）。 安全评估参考方法完整方案（关键词库、生成内容测试题库、拒答测试题库、分类模型）。 训练数据安全评估方法（数据来源安全、数据内容管理、数据标注安全）。 模型安全评估方法（模型训练安全、模型输出安全、模型监测测评、模型更新升级安全、模型环境安全）。 安全措施评估方法（7个维度完整评估方案）。 术语和定义完整列表。 规范性引用文件清单（含版本号）。 参考文献清单（含配套标准GB/T 45674、GB/T 45652等）。 主要起草人名单（100余位）。如需获取以上全部内容及标准原文，请下载完整PDF报告。延伸阅读：如需了解标准背景与产业影响，可返回查看本报告深度分析页面。数据来源说明：本报告内容基于GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》国家标准文本。