1、SicSi赛博研究院AIGC数据安全与算法治理报告AIGC Data Security andAlgorithmic Governance Report#page#版权声明COPYRIGHT STATEMENT本报告版权属于出品方所有，并受法律保护。转载、摘编或利用其他方式使用报告文字或者观点的，应注明来源。违反上诉声明者，本单位将追究其相关法律责任。出品方上海赛博网络安全产业创新研究院本报告部分内容引用自上海赛博网络安全产业创新研究院和上海观安信息技术股份有限公司联合出品的人工智能数据安全治理理报告，特此感谢。#page#前言PREFACE当前，随着以“算力新基建、数据新要素、AI大模型”为

2、特征的算力经济时代来临，以ChatGPT为代表的AIGC应用撤起人工智能新一轮浪潮，全球人工智能发展逐步从“探索期”向“成长期”过渡，在技术和产业上进入重要转型阶段。在此背景下，人工智能发展和数据、算法安全问题深度交织融合，影响用户隐私、公民权益、商业秘密、国家安全等各个方面，AIGC的创新应用和数据安全治理工作也进入全新的阶段。本报告重点聚焦并梳理了人工智能应用中较为独特或更突出的安全问题，全面分析了当前全球人工智能数据安全和算法治理的主要现状和最新动态，基于全球相关治理实践和我国实际情况，构建了AIGC数据安安全和算法治理框架。#page#CONTENTS前言第一章人工智能发展与安全挑战一

3、、算力经济时代人工智能发展趋势1.新一轮算力经济发展浪潮来临02.以AIGC为代表的人工智能应用进入“成长期”3.数据安全和算法问题成为人工智能发展的學时二、人工智能发展的安全挑战06061.数据采集阶段：难以保障数据所有者权利062.数据处理阶段：可能导致决策错误或算法歧视073.数据流通阶段：流通交互的合法性及安全性084.数据使用阶段：可能影响国家、企业及个人安全O第二章全球人工智能数据和算法安全治理现状一、各国在AIGC领域的治理现状10101.美国：鼓励AIGC发展，以场景化立法规制安全2.欧盟：重塑AIGC治理规范，基于风险识别强监管3.中国：实施AIGC适度监管，多层级、多角度规

4、范二、AIGC治理前沿技术发展趋势1.AIGC数据安全隐私计算32.AIGC数字信任区块链3.AIGC模型安全对抗训练4.AIGC反歧视偏见检测5.AIGC内容安全鉴别及标识第三章AIGC数据和算法安全治理框一、治理原则二、治理路径1.完善治理顶层设计2.建设系列标准体系3.提高人工智能企业自身治理能力4.打造全面的安全治理能力供给参考文献#page#AIGC数据安全与算法治理报告03GCData56anOAOPART人工智能发展与安全挑战一、算力经济时代人工智能发展超势新一轮算力经济发展浪潮来临近年来，随着大数据、云计算、人工智能等为开放创新平台，加快推进算力基础设施建设。算力代表的数字技术

5、带来全球性的科技革命和产业变革，作为数字经济时代的关键生产力，其基础设施建设以“算力新基建、数据新要素、AI大模型”为核心特保障了人工智能发展所需要的巨大基础计算和存储征的算力经济发展浪潮为人工智能全面发展注入了需求，为人工智能市场化应用提供高质量的硬件支撑。强大动能算力新基建成为人工智能新发展的坚实底座和数据新要素成为人工智能新发展的核心动能和基础支撑。数字化时代的数据呈指数级爆发，随着强大驱动。2022年12月，中国发布中共中央国人工智能等智能化应用的持续发展，用于人工智能务院关于构建数据基础制度更好发挥数据要素作用训练和推理计算的智能算力需求也呈现出快速增长的意见，从数据产权、流通交易、

6、收益分配、安超势。近年来，美、欧、日、英等全球主要经济体全治理等方面构建数据基础制度，提出20条政策举大力发展以云计算、边缘计算、智算数据中心等为措。随着全球各国不断加快数据市场的建设，将进代表的新型算力基础设施。2022年，中国“全面启一步形成包括数据要素确权定价、数据交易流通和动东数西算”，拟在京津翼、长三角、粤港澳大湾区、收益分配等核心功能的数据要素市场，极大地推动政府公共数据开放和社会企业数据共享，进一步打成渝、内蒙古、贵州、甘肃、宁夏等8地启动建设通数据壁垒，推动更大规模的数据有序、便捷、高国家算力框纽节点。2023年，科技部发布关于支持建设国家新效和安全流动交易，为人工智能全面发展