1、1 工业和信息化领域人工智能安全治理标准体系建设指南（2025）为深入贯彻落实党中央、国务院关于加快发展人工智能的部署要求，贯彻落实国家标准化发展纲要全球人工智能治理倡议国家人工智能产业综合标准化体系建设指南（2024 版），根据工业和信息化部人工智能标准化技术委员会审议通过的人工智能标准化技术委员会标准体系 2025 年），进一步加强人工智能安全领域标准化工作系统谋划，构建保障人工智能产业高质量发展和实现高水平安全的标准体系，夯实标准对推动技术进步、促进企业发展、引领产业升级、保障产业安全的基础性、引领性、支撑性作用，更好推进人工智能赋能新型工业化，加速迈向制造强国和网络强国，特制定本指南。

2、一、背景情况 习近平总书记高度重视统筹人工智能发展和安全，强调“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”。党的二十届三中全会明确提出要“建立人工智能安全监管制度”。习近平总书记的系列重要指示批示精神为开展人工智能发展和安全工作指明了方向，提供了根本遵循。近年来，我国人工智能产业在技术创新、产品创造和行业应用等方面实现快速发展，在人工智能安全治理标准制定方面也取得了一定进展，但仍面临数据安全、网络安全等方2 面挑战。立足长远，构建人工智能安全治理标准体系迫在眉睫。一是提升人工智能企业安全能力建设，培育壮大人工智能产业,服务本土企业长远发展。二

3、是培育人工智能安全技术及产品应用，提升人工智能赋能安全能力，为人工智能技术高质量应用、数字经济和实体经济融合提供坚实支撑。三是明确人工智能技术研发、产品迭代安全基线，促进企业在安全框架内创新发展，增强产业主体的信用信心，营造安全的发展环境，同时促进技术共享、合作共赢，加速技术成果在安全可靠的前提下落地转化。四是提升我国人工智能技术产品的国际竞争力，通过将我国先进的人工智能安全防护理念、实践成果推向国际社会，吸引国际合作资源，为本土企业拓展海外业务筑牢根基。二、总体要求（一）指导思想（一）指导思想 本指南以习近平新时代中国特色社会主义思想为指导，全面贯彻党的二十大和二十届二中、三中全会精神，以人

4、工智能赋能新型工业化为主线，遵循统筹发展和安全的基本原则，构建工业和信息化领域人工智能安全治理体系，为产业提供人工智能安全的技术和行动指引。以高水平安全促进高质量发展，充分发挥产业主体在人工智能安全治理的重要作用，加速培育壮大人工智能产业，构建安全、可靠、繁荣的人工智能产业发展环境。（二）建设目标（二）建设目标 短期目标（1-2 年）：急用先行，快速突破。初步构建工3 业和信息化领域人工智能安全标准体系框架，明确标准体系的总体架构、分类和关键标准领域。制定一批急需急用的标准，为行业提供基本的安全规范和技术指引。推动相关标准的试点应用，在部分重点企业和项目中开展标准实施的验证和反馈工作，及时发现

5、和解决标准在应用过程中存在的问题，为标准的完善和推广奠定基础。长期目标（3-5 年）：全面保障，产业落地。完善工业和信息化领域人工智能安全标准体系，补充和细化各领域的安全标准，涵盖人工智能系统的设计、开发、部署、运行、维护等全生命周期，覆盖工业和信息化领域人工智能应用的各个方面，并促进与国际标准的对接协调。同时，加强标准的推广应用，规范工业和信息化产业主体人工智能应用，提高行业整体的安全水平，为传统产业的高端化升级和前沿技术的产业化落地提供有力保障。三、建设思路（一）人工智能安全治理标准体系结构（一）人工智能安全治理标准体系结构 人工智能安全治理标准体系结构包括“A 治理能力”、“B 基础安全

6、”、“C 网络安全”、“D 数据安全”、“E 算法模型安全”、“F 应用安全”、“G 赋能安全”等 7 个部分，如图 1 所示。4 图 1：人工智能安全治理标准体系结构 其中，治理能力标准主要规范人工智能支撑能力和管理能力，为实现人工智能安全治理夯实基础底座。基础安全标准主要规范硬件平台、软件平台、智算中心、供应链等方面安全，确保人工智能基础设施安全稳定。网络安全标准主要规范网络安全的防护、监测、管理，以及网络安全风险评估，确保网络安全可靠运营。数据安全标准主要规范基础数据服务、训练数据、业务数据等方面安全，明确人工智能数据安全要求。算法模型安全标准主要规范算法、模型等方面安全，保障人工智能技