1、人工智能安全作为全球公共产品研究报告AI Safety as Global Public GoodsWorking Report中国 上海西岸对话West Bund DialogueCONTENTS引言“人工智能安全作为全球公共产品”的理念“人工智能安全作为全球公共产品”的原则“人工智能安全作为全球公共产品”的全球价值“人工智能安全作为全球公共产品”的中国探索推动“人工智能安全作为全球公共产品”的行动倡议010102020303040405050606目 录“人工智能安全作为全球公共产品”是指，考虑到人工智能技术创新、产业应用规律及其引致风险机制的特殊性，人工智能安全应被视为具有公共属性的知识

2、、能力、资源，政府、企业、第三方等不同主体需要在共商共建共享过程中共同探索，促进关于人工智能安全知识、能力、资源的增长和积累。这一公共产品可更好指引人工智能产业发展与社会应用，确保每个人及人类整体从中获益，形成“小河有水大河满”的良性生态。人工智能安全作为全球公共产品的理念认为，人工智能安全在消费上应具有非竞争性、在收益上应具有非排他性：前者是指，人工智能安全知识、能力、资源并不因新增主体而降低原有主体的使用与消费；后者是指，人工智能安全知识、能力、资源在使某些主体受益的同时，不排斥其他主体受益。在全球层面，具有非竞争性、非排他性的国际公共产品较少。但人工智能安全议题的特殊性，正在要求我们将其

3、建设成为全球公共产品。人工智能技术创新过程的“黑箱性”、动态性，人工智能应用的广泛性、普遍性，人工智能安全风险的不确定性、争议性，都对利益相关方推动人工智能安全治理提出了新挑战、新要求。第一，与传统技术安全风险治理重点关注信息不对称问题不同，人工智能安全风险体现出明显的“共同无知”特征，技术创新和应用主体、政府监管部门、受影响群体都缺乏人工智能安全风险知识。第二，人工智能的跨领域、跨国界应用使得人工智能安全风险呈现出强外部性特征，不同主体间相互关联、相互依存，一方安全须建立在他方安全基础之上，任何一方都不能独善其身。第三，人工智能作为人类发展新领域的变革潜力，使得发展议题与安全议题紧密关联，发

4、展与安全并重原则要求人工智能安全治理需要被置于发展进程中动态演化、敏捷调适。正因为人工智能安全及其治理的新特征、新要求，人工智能安全知识、能力、资源才具有了“公地喜剧”属性。像“狂欢节”一样，越多主体参与其中，节日的气氛才越浓烈，每个人从中获得的欢乐与收益也才越大。由此，人工智能安全要求多边、多方主体的开放合作，以创造、维系有利于自身、也有利于整体的公共产品。引言人工智能可能带来极大收益，但也可能带来系统风险，而其快速演化的技术迭代速度正在加剧发展的不确定性。这一现象已经引起了全球利益相关方的普遍关注，多边、多方主体具有共识性地认为，当前应对人工智能风险的治理措施选择至关重要，是实现人工智能可

5、信赖与负责任的关键。为不断提升人工智能技术的可靠性、可控性、公平性，加强人工智能安全研究、推动人工智能安全合作的重要性得到了各方肯定。人工智能安全是释放人工智能变革潜力、控制人工智能系统风险的关键措施。起草人工智能安全科学报告、形成人工智能安全评测基准、加强人工智能安全研究投入、成立人工智能安全研究机构、促进人工智能安全对话等都已成为近年来人工智能国际治理的重要行动与进程。我们认可多边、多方主体在人工智能安全方面开展行动的积极和重要意义，同时我们也认识到当前进程的可能改善空间。基于中国实践经验，我们提出，在推动人工智能安全实践、形成人工智能安全规则、促进人工智能安全共识的过程中，应将人工智能安

6、全视为“全球公共产品”，致力于建设公共性的安全知识、安全能力、安全资源。“人工智能安全作为全球公共产品”的理念价值是其能够统筹发展与安全的双重目标，不仅仅将安全视为风险管理措施或监管手段，而是同时强调安全知识、能力、资源的积累与增长，以促进人工智能更好发展。该概念能够兼顾国内与国际，既有利于引导各国国内人工智能安全治理机制和体系改革，同时也有利于推动人工智能安全的国际合作与全球治理。0201“人工智能安全作为全球公共产品”的理念图“人工智能安全作为全球公共产品”理念框架图“人工智能安全作为全球公共产品”研究报告“AI Safety as Global Public Goods”Working