《华为：AI安全白皮书（2018）（15页）.pdf》由会员分享，可在线阅读，更多相关《华为：AI安全白皮书（2018）（15页）.pdf（15页珍藏版）》请在三个皮匠报告上搜索。

1、AI安全白皮书执行摘要近年来，随着海量数据的积累、计算能力的发展、机器学习方法与系统的持续创新与演进，诸如图像识别、语音识别、自然语言翻译等人工智能技术得到普遍部署和广泛应用，人工智能正朝着历史性时刻迈进。与此同时，AI对于传统计算机安全领域的研究也产生了重大影响，除了利用AI来构建各种恶意检测、攻击识别系统外，黑客也可能利用AI达到更精准的攻击。除此之外，在关键的AI应用场景上，AI自身的安全性变得前所未有的重要，极需要构建一个不会被外界干扰而影响判断的健壮AI系统。可以说AI帮助了安全，安全也能帮助AI。本白皮书主要目的是探讨AI自身的安全，确保AI模型和数据的完整性与保密性，使其在不同的

2、业务场景下，不会轻易地被攻击者影响而改变判断结果或泄露数据。不同于传统的系统安全漏洞，机器学习系统存在安全漏洞的根因是其工作原理极为复杂，缺乏可解释性。各种AI系统安全问题（恶意机器学习）随之产生，闪避攻击、药饵攻击以及各种后门漏洞攻击层出不穷。这些攻击不但精准，而且对不同的机器学习模型有很强的可传递性，使得基于深度神经网络（DNN）的一系列AI应用面临较大的安全威胁。例如，攻击者在训练阶段掺入恶意数据，影响AI模型推理能力；同样也可以在判断阶段对要判断的样本加入少量噪音，刻意改变判断结果；攻击者还可能在模型中植入后门并实施高级攻击；也能通过多次查询窃取模型和数据信息。华为致力于AI安全的研究

3、，旨在提供一个令用户放心的AI应用安全环境，为华为AI使能构建智能世界的新时代愿景与使命做出贡献。为了应对AI安全的新挑战，本白皮书提出了将AI系统部署到业务场景中所需要的三个层次的防御手段：攻防安全，对已知攻击设计有针对性的防御机制；模型安全，通过模型验证等手段提升模型健壮性；架构安全，在部署AI的业务中设计不同的安全机制保证业务安全。未来，华为的AI安全任重而道远。在技术上，需要持续研究AI可解释性，增强对机器学习工作机理的理解，并构建机制性防御措施搭建AI安全平台；在业务上，需要详细剖析AI在产品线的应用案例，落地经过测试和验证的AI安全关键技术。以“万物感知、万物互联、万物智能”为特征

4、的智能社会即将到来，华为愿与全球的客户和伙伴们共同努力携手并进，共同面对AI安全挑战。AI安全白皮书执行摘要目录AI安全白皮书目录1. 迈向智能社会 022. AI安全面临五大挑战 033. AI安全典型攻击方式 043.1 闪避攻击 043.2 药饵攻击 053.3 后门攻击 053.4 模型窃取攻击 054. AI安全防御手段 064.1 AI安全攻防 074.2 AI模型安全 094.3 AI业务的安全架构 105. 携手共建安全的智慧未来 12参考文献 130101迈向智能社会近年来，随着海量数据的积累、计算能力的发展、机器学习方法与系统的持续创新与演进，诸如图像识别、语音识别、自然语

5、言翻译等人工智能技术得到普遍部署和广泛应用。越来越多公司都将增大在AI的投入，将其作为业务发展的重心。华为全球产业愿景预测：到2025年，全球将实现1000亿联接，覆盖77%的人口；85%的企业应用将部署到云上；智能家庭机器人将进入12%的家庭，形成千亿美元的市场。人工智能技术的发展和广泛的商业应用充分预示着一个万物智能的社会正在快速到来。1956年，麦卡锡、明斯基、香农等人提出“人工智能”概念。60年后的今天，伴随着谷歌DeepMind开发的围棋程序AlphaGo战胜人类围棋冠军，人工智能技术开始全面爆发。如今，芯片和传感器的发展使“+智能”成为大势所趋：交通+智能，最懂你的路；医疗+智能，

6、最懂你的痛；制造+智能，最懂你所需。加州大学伯克利分校的学者们认为人工智能在过去二十年快速崛起主要归结于如下三点原因1：1）海量数据：随着互联网的兴起，数据以语音、视频和文字等形式快速增长；海量数据为机器学习算法提供了充足的营养，促使人工智能技术快速发展。2）高扩展计算机和软件系统：近年来深度学习成功主要归功于新一波的CPU集群、GPU和TPU等专用硬件和相关的软件平台。3）已有资源的可获得性：大量的开源软件协助处理数据和支持AI相关工作，节省了大量的开发时间和费用；同时许多云服务为开发者提供了随时可获取的计算和存储资源。在机器人、虚拟助手、自动驾驶、智能交通、智能制造、智慧城市等各个行业，人