1、 人工智能人工智能安全安全白白皮书皮书 （2012018 8 年）年） 中国信息通信研究院中国信息通信研究院 安全研究所安全研究所 2012018 8年年9 9月月 前 言 前 言 人工智能作为引领未来的战略性技术， 日益成为驱动经济社会各领域从数字化、网络化向智能化加速跃升的重要引擎。近年来，数据量爆发式增长、计算能力显著性提升、深度学习算法突破性应用，极大地推动了人工智能发展。自动驾驶、智能服务机器人、智能安防、智能投顾等人工智能新产品新业态层出不穷， 深刻地改变着人类生产生活，并对人类文明发展和社会进步产生广泛而深远的影响。 然而，技术的进步往往是一把“双刃剑” ，人工智能作为一种通用目

2、的技术，为保障国家网络空间安全、提升人类经济社会风险防控能力等方面提供了新手段和新途径。但同时，人工智能在技术转化和应用场景落地过程中，由于技术的不确定性和应用的广泛性，带来冲击网络安全、社会就业、法律伦理等问题，并对国家政治、经济和社会安全带来诸多风险和挑战。 世界主要国家都将人工智能安全作为人工智能技术研究和产业化应用的重要组成部分， 大力加强对安全风险的前瞻研究和主动预防，积极推动人工智能在安全领域应用，力图在新一轮人工智能发展浪潮中占得先机、赢得主动。 本白皮书从人工智能安全内涵出发， 首次归纳提出了人工智能安全体系架构， 在系统梳理人工智能安全风险和安全应用情况的基础上，进一步总结了

3、国内外人工智能安全的管理现状， 研究提出了我国人工智能安全风险应对与未来发展建议。 1 目 录 目 录 一、 人工智能安全内涵与体系架构 . 1 （一） 人工智能基本概念与发展历程 . 1 （二） 人工智能安全内涵 . 2 （三） 人工智能安全体系架构 . 3 二、 人工智能安全风险分析 . 6 （一） 网络安全风险. 6 （二） 数据安全风险. 8 （三） 算法安全风险. 9 （四） 信息安全风险. 12 （五） 社会安全风险. 13 （六） 国家安全风险. 15 三、 人工智能安全应用情况 . 16 （一） 网络信息安全应用 . 17 （二） 社会公共安全应用 . 20 四、 人工智能安全

4、管理现状 . 23 （一） 主要国家人工智能安全关注重点 . 23 （二） 主要国家人工智能安全法规政策制定情况 . 26 （三） 国内外人工智能安全标准规范制定情况 . 29 （四） 国内外人工智能安全技术手段建设情况 . 31 （五） 国内外人工智能重点应用的安全评估情况 . 33 （六） 国内外人工智能人才队伍建设情况 . 34 （七） 国内外人工智能产业生态培育情况 . 36 五、 人工智能安全发展建议 . 37 （一） 加强自主创新，突破共性关键技术 . 37 （二） 完善法律法规，制定伦理道德规范 . 38 2 （三） 健全监管体系，引导产业健康发展 . 39 （四） 强化标准引领

5、，构建安全评估体系 . 40 （五） 促进行业协作，推动技术安全应用 . 40 （六） 加大人才培养，提升人员就业技能 . 41 （七） 加强国际交流，应对共有安全风险 . 42 （八） 加大社会宣传，科学处理安全问题 . 43 人工智能安全白皮书（2018 年） 中国信息通信研究院 1 一、 一、 人工智能安全内涵与体系架构 （一） 人工智能基本概念与发展历程 （一） 人工智能基本概念与发展历程 1、人工智能基本概念 1、人工智能基本概念 计算机之父阿兰图灵在 1950 年的论文计算机器与智能中提出了“机器智能”以及著名的“图灵测试”：如果有超过 30%的测试者不能确定出被测试者是人还是机器

6、， 那么这台机器就通过了测试，并被认为具有人类智能。1956 年，在美国达特茅斯会议上，科学家麦卡锡首次提出“人工智能” ：人工智能就是要让机器的行为看起来更像人所表现出的智能行为一样。在人工智能概念提出时，科学家主要确定了智能的判别标准和研究目标，而没有回答智能的具体内涵。之后，包括美国的温斯顿1、尼尔逊2和中国的钟义信3等知名学者都对人工智能内涵提出了各自见解， 反映人工智能的基本思想和基本内容：研究如何应用计算机模拟人类智能行为的基本理论、方法和技术。但是，由于人工智能概念不断演进，目前未形成统一定义。结合业界专家观点，项目组研究认为，人工智能是利用人为制造来实现智能机器或者机器上的智能