360天枢智库&SAASD：全球人工智能安全治理（2022）（36页）.pdf

1、1The Global Governance of Artificial Intelligence:Safety and Security Perspective全球人工智能安全治理参与单位天津智慧城市数字安全研究院360 AI 安全实验室大数据协同安全技术国家工程研究中心中国工商银行业务研发中心中信基金会金融实验室中国电信研究院上海市人工智能与社会发展研究会上海赛博网络安全产业创新研究院邹权臣 鲁传颖 主编360 天枢智库上海国际问题研究院网络空间国际治理研究中心联合发布2022 年 6 月全球人工智能安全治理是 360 天枢智库与上海国际问题研究院网络空间国际治理中心合作发表的首份联合研究

2、报告，是国内学术界和产业界在人工智能安全领域的联合研究成果。双方希望在人工智能技术快速发展过程中，探索出既能发挥技术效益，又能控制其安全风险的治理之道。安全治理是决定人工智能未来发展的关键领域。双方研究团队从政策制定和产业实践的角度，分析了人工智能安全治理面临的挑战、治理模式和行业实践。我们看到，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元。在政策层面，世界主要国家和地区已经将安全治理列为人工智能战略的优先事项。在行业领域，作为人工智能技术的开发者，企业是人工智能安全治理的重要参与者，通过参与标准制定，推出产品服务，努力探索人工智能

3、安全治理的技术路径和解决方案。包括 360 在内的多家国内外企业已经通过自身实践走出了技术赋能、行业规制、平台监测的多种道路。人工智能安全是数字时代的基础性安全领域。人工智能安全治理，当前没有成熟方案，只有最佳实践，需要广泛协作和开放创新。为应对人工智能与安全面临的挑战，360 发挥龙头企业优势，践行社会责任，承担了国家级开放创新平台的建设任务。例如，360AI 安全实验室自 2019 年承担建设的“安全大脑国家新一代人工智能开放创新平台”，致力于解决人工智能自身存在的安全风险、人工智能创新环境匮乏及在网络安全领域创新成果落地难等问题。同时，该平台还将赋能中小初创前言安全企业、垂直行业、人工智

4、能产业，提升国家人工智能安全整体防御能力，打造人工智能的“安全底座”。我相信，人工智能安全产业发展必将助力人工智能成为集技术革新与安全可控于一身的战略性技术。值得一提的是，全球人工智能安全治理报告得到多家单位的参与和协助，汇集了国内产、学、研等多方力量的支持。例如，天津智慧城市数字安全研究院、360 AI 安全实验室、大数据协同安全技术为研究团队提供了一手的研究资料；中国工商银行业务研发中心、中信基金会金融实验室、中国电信研究院、上海市人工智能与社会发展研究会、上海赛博网络安全产业创新研究院为研究团队提供了难得的调研机会。在此，向上述单位表示诚挚的感谢，相信通过政策界、学术界和企业界的紧密结合

5、，秉持“科技向善”理念，人工智能技术一定会持续造福人类。当然，我们的研究成果也还存在不足之处，欢迎读者批评指正，也欢迎更多人加入我们的联合研究。360 集团副总裁兼首席安全官 杜跃进博士2022 年 6 月摘要全球人工智能安全治理1一、安全治理成为人工智能战略的优先事项/1（一）美国人工智能安全治理3（二）欧盟人工智能安全治理3（三）中国人工智能安全治理5二、人工智能安全治理面临的挑战/6（一）人工智能自身安全面临的挑战6（二）人工智能衍生安全面临的挑战8（三）人工智能赋能网络安全的机遇与风险并存 10 案例一：人工智能对数字城市建设带来的挑战11三、人工智能的风险治理/13（一）人工智能风险

6、治理思路13（二）人工智能风险治理模式15（三）人工智能域外治理经验18四、人工智能安全治理的行业实践/22（一）技术解决方案22（二）行业标准24（三）应用案例25五、总结/28目 录安全治理是事关人工智能未来发展的关键。目前，各国政府在制定人工智能发展战略时都已经将安全治理作为不可或缺的组成部分。在全球范围内，针对人工智能的伦理规范、风险框架，以及治理理念和模式的探索成为学术界和政策界的重点工作。一、人工智能面临的安全风险目前来看，全球范围内普遍关注的人工智能安全问题有以下十类：网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来岗位问题、公平性问题、人身安全问题、