1、世界互联网大会人工智能专业委员会安全与治理推进计划成员及贡献者（包括推进计划成员和特邀专家，以及为报告提供内容或意见的专家，按单位名称首字母排序）曾 毅肖恩 欧 海格缇中国科学院北京前瞻人工智能安全与治理研究院剑桥大学阿拉伯信息通信技术组织纳达 拉阿比迪巴西南大河州联邦大学埃德森 普雷斯蒂北京印象笔记科技有限公司乔 迁北京智源人工智能研究院卜语嫣德国明斯特大学伯纳德 霍尔兹纳格尔伏羲智库程 凯、李 娜IQuilibriumAI希梅娜 索菲亚 比维罗斯 阿尔瓦雷斯联想（北京）有限公司胡永启南开大学陶 锋人民网股份有限公司汪凤琼上海人工智能实验室乔 宇阿里云计算有限公司王星光、张 荣北京大学王小塞

2、、杨耀东北京邮电大学杨忠良德国埃尔朗根-纽伦堡大学文森特 C 米勒德国慕尼黑工业大学丹尼尔 凯里米杭州安恒信息技术股份有限公司符春辉、王 欣金砖国家未来网络研究院（中国 深圳）范 维、周 原莫斯科国际关系学院安娜 阿布拉莫娃清华大学唐新华上海诺基亚贝尔股份有限公司陶 涛、王 彤上海稀宇极智科技有限公司彭 韬、沈俊成牵 头 人专 家 及 贡 献 者世界互联网大会梁 昊、张雪丽香港大学陈 澍香港中文大学蒙美玲、张寄冀央视国际网络有限公司程 明云安全联盟约翰 杨中国电信集团有限公司刘威辰、王 峰中国联合网络通信集团有限公司周 凯中国社会科学院大学刘晓春中国网络空间安全协会王健兵、夏文辉中国移动研究院

3、（中移智库）林 琳、吴淑燕中兴通讯股份有限公司孟 伟深圳市腾讯计算机系统有限公司王梦寅、王 融斯里兰卡计算机应急响应中心查鲁卡 塞纳尔 达穆努波拉、尼罗沙 阿南达香港岭南大学姚 新新浪微博王 巍、张俊林英国南安普顿大学温迪霍尔中关村实验室谭知行中国互联网络信息中心陈晶晶中国人民大学龚新奇、刘永谋中国社会科学院人工智能研究促进中心段伟文中国信息通信研究院郭苏敏、呼娜英中国政法大学张凌寒北京前瞻人工智能安全与治理研究院中国科学院自动化研究所人工智能安全与超级对齐北京市重点实验室曾 毅、王正奇、鲁恩萌、范津宇、皇甫存青世界互联网大会康彦荣、韩开宇中国科学院大学曹功策、陈 煜、谢佳玮、韩正强、郭晓阳、

4、包傲日格乐、王 金联系邮箱researchwicinternet.org 编写团队前 言 PREFACE 人工智能技术正以跨越式速度发展，深刻重塑全球科技、经济与安全格局。伴随其广泛应用，人工智能所引发的风险挑战日益复杂严峻。与此同时，全球人工智能安全与治理体系呈现出碎片化态势，各国在发展水平、治理能力、治理诉求等方面存在差异，国际协作面临阻力。在此背景下，探索构建完善的全球人工智能安全与治理体系，早日形成具有广泛共识的全球治理框架和标准规范，已成为关乎人工智能可持续发展的重要课题。世界互联网大会依托人工智能专业委员会安全与治理推进计划成员单位，联合相关国际组织、知名智库、科研院所、专业协会及

5、产业界专家，共同开展全球人工智能安全与治理体系研究，旨在促进各方凝聚共识、增进互信、加强协作，推动人工智能服务人类共同福祉与长远安全。本报告系统梳理了当前全球人工智能安全与治理体系的探索与实践、应解决的关键问题及其他领域的全球治理多边实践经验。报告重点围绕机制设计展开分析，探讨如何构建确保安全、确保包容、权责明晰、协调有力、权威高效的全球人工智能安全与治理体系，并基于践行多边主义、共建人类命运共同体的理念，进一步提出以联合国为中心构建全球人工智能安全与治理体系的机制建议。本报告旨在为各方提供参考，以期凝聚广泛共识，共同推动全球人工智能安全与治理体系的构建与完善。目 录0102030405为全球

6、人工智能发展应用构建安全与治理体系（一）全球人工智能发展应用亟须应对安全与治理风险（二）各方在全球人工智能安全与治理上的探索与实践（三）全球人工智能安全与治理体系应解决的关键问题（四）其他领域全球性多边治理体系的经验借鉴确保安全：应对人工智能快速变革与重大风险（一）应对人工智能技术快速迭代与不确定性风险（二）应对人工智能广泛社会应用与滥用恶用风险（三）前瞻研判与防范人工智能的全球性重大风险确保包容：兼顾各国人工智能发展与治理诉求（一）正视全球人工智能发展鸿沟与各国诉求差异（二）保障各国平等发展和利用人工智能的权利（三）确保全球安全与治理机制的代表性与包容性明晰权责：推动多利益攸关方协调有力的行