《中国信通院：人工智能数据安全白皮书（2019）（44页）.pdf》由会员分享，可在线阅读，更多相关《中国信通院：人工智能数据安全白皮书（2019）（44页）.pdf（44页珍藏版）》请在三个皮匠报告上搜索。

1、 人工智能数据安全 白皮书 人工智能数据安全 白皮书 中国信息通信研究院 安全研究所 2019年8月中国信息通信研究院 安全研究所 2019年8月 前 言 前 言 人工智能作为引领新一轮科技革命和产业变革的战略性技术， 已成为世界主要国家谋求新一轮国家科技竞争主导权的关键领域。 随着政府人工智能战略布局的落地实施， 全球人工智能发展正进入技术创新迭代持续加速和融合应用拓展深化的新阶段， 深刻改变着国家政治、经济、社会、国防等领域的运行模式，对人类生产生活带来翻天覆地的变化。 数据作为驱动本轮人工智能浪潮全面兴起的三大基础要素之一，数据安全风险已成为影响人工智能安全发展的关键因素。与此同时，人工

2、智能应用也给数据安全带来严峻挑战,如何应对人工智能场景下的数据安全风险日渐成为国际人工智能治理的重要议题。 部分国家已率先探索人工智能数据安全风险的前瞻研究和主动预防， 并积极推动人工智能在数据安全领域应用， 力求实现人工智能与数据安全的良性互动发展。 本白皮书从人工智能数据安全的内涵出发， 首次提出人工智能数据安全的体系架构， 在系统梳理人工智能数据安全风险和安全应用情况的基础上，总结了国内外人工智能数据安全治理现状，研究提出了我国人工智能数据安全治理建议。 目 录 目 录 一、 人工智能数据安全概述. 1 （一） 人工智能安全 . 1 （二） 人工智能数据安全内涵. 2 （三） 人工智能数

3、据安全体系架构 . 3 二、 人工智能数据安全风险. 5 （一） 人工智能自身面临的数据安全风险 . 5 （二） 人工智能应用导致的数据安全风险 . 7 （三） 人工智能应用加剧的数据治理挑战 . 11 三、 人工智能数据安全应用. 13 （一） 人工智能与数据安全治理 . 13 （二） 人工智能在数据安全治理中的应用 . 15 四、 国内外人工智能数据安全治理动态 . 23 （一） 国内外人工智能数据安全战略规划情况 . 24 （二） 国内外人工智能数据安全伦理规范情况 . 28 （三） 国内外人工智能数据安全法律制定情况 . 30 （四） 国内外人工智能数据安全技术发展情况 . 32 （五

4、） 国内外人工智能数据安全标准规范情况 . 34 五、 人工智能数据安全治理建议 . 36 （一） 明晰发展与安全并举的治理思路 . 36 （二） 引导社会遵循人工智能伦理规范 . 37 （三） 建立人工智能数据安全法律法规 . 37 （四） 完善人工智能数据安全监管措施 . 38 （五） 健全人工智能数据安全标准体系 . 39 （六） 创新人工智能数据安全技术手段 . 39 （七） 培养复合人工智能数据安全人才 . 40 人工智能数据安全白皮书（2019 年） 中国信息通信研究院 1 一、 人工智能数据安全概述 （一） （一） 人工智能安全人工智能安全 当前，由人工智能引领的新一轮科技革命和

5、产业变革方兴未艾，正在对经济发展、 社会进步、 国家治理等方面产生重大而深远的影响。世界主要国家和全球产业界高度重视并积极布局， 人工智能迎来新的发展浪潮。然而，技术进步往往是一把“双刃剑” ，本项目组在人工智能安全白皮书（2018 年） 中提出人工智能因其技术的局限性和应用的广泛性，给网络安全、数据安全、算法安全和信息安全带来风险，并对国家政治、军事和社会安全带来诸多挑战。与此同时，人工智能因其突出的数据分析、知识提取、自主学习、智能决策等能力，可在网络防护、数据管理、信息审查、智能安防、金融风控、舆情监测等网络信息安全领域和社会公共安全领域有许多创新性应用。 为有效管控人工智能安全风险并积

6、极促进人工智能技术在安全领域应用，可从法规政策、标准规范、技术手段、安全评估、人才队伍、可控生态等方面构建人工智能安全管理体系。 图 1 人工智能安全体系架构图 人工智能数据安全白皮书（2019 年） 中国信息通信研究院 2 （二） 人工智能数据安全内涵 （二） 人工智能数据安全内涵 1、人工智能与数据 人工智能与数据相辅相成、互促发展。一方面，海量优质数据助力人工智能发展。现阶段，以深度学习为代表的人工智能算法设计与优化需要以海量优质数据为驱动。谷歌研究提出，随着训练数据数量级的增加，相同机器视觉算法模型的性能呈线性上升。牛津大学国际发展研究中心将大数据质量和可用性作为评价政府人工智能准备指