1、 人工智能硬件安全白皮书 联合出品 人工智能安全白皮书 2 目录 前 言. 3 1范围 . 4 2术语定义与缩略语 . 4 3概述 . 5 4总体安全框架 . 6 5DuerOS 生态安全规范 . 7 6DuerOS 生态的安全问题 . 16 人工智能安全白皮书 3 前 言 为适应人工智能硬件快速发展的安全需要，由百度安全事业部AI安全团队组织制定“人工智能硬件生态安全白皮书“，推荐相关开发者参考采用。有关对此白皮书的建议和意见，向百度安全事业部AI安全团队反映。 此白皮书将持续进行迭代，请及时关注白皮书更新信息。 此白皮书为精简版本，完整版本将面向百度合作伙伴开放。 此白皮书由百度安全事业部

2、AI安全团队提出并归口。 人工智能安全白皮书 4 人工智能硬件安全白皮书 1范围 本标准分析了DuerOS生态存在的安全威胁，并以此为基础提出了DuerOS应用设备层、网络传输层、数据处理层以及数据安全和隐私层等方面的系统安全需求。 本标准适用于DuerOS系统安全技术领域。 2术语定义与缩略语 2.1 术语与定义 2.1.1 应用设备层 应用设备层主要由各种RFID标签、有线或无线传感器、智能硬件设备组成，本文也包括运行于其上的操作系统； 2.1.2 网络传输层 通过各种电信/传感网络与互联网融合，与应用设备进行实时通信； 2.1.3 数据处理层 人工智能安全白皮书 5 对所收集信息进行处理

3、，实现智能化识别、定位、跟踪、监控、管理等实际应用； 2.2 缩略语 下列缩略语适用于本文件。 DoS 拒绝服务 Denial of Service DDoS 分布式拒绝服务 Distributed Denial of Service IoT 物联网 Internet of Things MITM 中间人 Man In The Middle PKI 公钥基础设施 Public Key Infrastructure RFID 无线射频识别 Radio Frequency IDentification SIM 客户识别模块 Subscriber Identity Module UICC 通用集成电

4、路卡 Universal Integrated Circuit Card VPN 虚拟专用网络 Virtual Private Network KARMA 自适应系统热修复 Kinetic Adaptive Repair for Many AI-systems CSR 证书注册请求 Certificate Signing Requests 3概述 DuerOS是百度度秘事业部研发的对话式人工智能系统，为厂商全新打造的分层解决方案。能够满足各个类型厂商不同层次的需求。 本标准按照DuerOS的网络层次划分方式，以设备应用层、网络传输层、数据处理层，数据安全和隐私层为出发点，制定DuerOS生态所

5、面临的安全威胁和制定DuerOS生态安全标准需求，主要包括：从DuerOS的DuerOS终端、感知延伸网络、接入、核心网络、人工智能安全白皮书 6 应用层、控制管理以及DuerOS层间方面等不同的角度分析DuerOS面临的安全威胁和存在的安全隐患，并在此基础上，提出DuerOS设备应用层、网络传输层、数据处理层以及相关业务应用的安全需求。 4总体安全框架 根据通用分层模型，DuerOS在逻辑功能上划分为四层，即：应用设备层、网络传输层、数据处理层和数据安全和隐私层。 基于通用分层模型, DuerOS生态安全需求主要划分为：应用设备层的硬件的安全需人工智能安全白皮书 7 求、软件安全需求；网络层

6、的网络层安全需求；数据处理层的安全需求；数据安全和隐私层的安全需求，分别包括： 1. 应用设备层安全需求， 包括末端节点的安全需求， 包括硬件及固件所带来的安全漏洞以及 DuerOS 基于操作系统带来的传统安全问题； 2. 网络传输层安全需求，包括数据传输的信息泄露和网络攻击等； 3. 数据处理层安全需求，包括云端安全问题以及移动控制端、web 控制端的安全问题； 4. 数据安全和隐私层安全需求，包括敏感数据及凭证信息的安全问题； 5DuerOS 生态安全规范 针对可能遇到的攻击，制定对应标准如下： 5.1 应用设备层安全规范 5.1.1 硬件安全规范 5.1.1.1 物理接口相关规范 级别：