1、全球人工智能治理研究报告全球人工智能治理研究报告上海社会科学院武汉大学同济大学中国现代国际关系研究院中国信息通信研究院中国社会科学院世界经济与政治研究所北京邮电大学北京航空航天大学北京理工大学中国人民公安大学中国政法大学复旦大学南京邮电大学浙江师范大学伏羲智库联合发起I前前 言言人工智能技术是新一轮科技革命和产业变革最具代表性的颠覆性技术，给人类社会带来巨大发展机遇的同时，也带来了诸多全球性挑战。人工智能技术的普及应用已惠及医疗、教育、交通、农业、工业、金融、文化、生态等诸多领域的发展；与此同时，人工智能的误用、滥用和恶用已危及个体、群体、社会、生态以及价值规范等不同层面的安全。2022 年生

2、成式人工智能技术取得突破性进展以来，新一轮全球人工智能治理浪潮席卷世界。在此背景下，上海社会科学院、武汉大学、同济大学、中国现代国际关系研究院、中国信息通信研究院、中国社会科学院世界经济与政治研究所、北京邮电大学、北京航空航天大学、北京理工大学、中国人民公安大学、中国政法大学等中国智库和高校的专家围绕全球人工智能治理的基本现状、主要议题和体系建设等问题展开了研究。本报告中的“全球人工智能治理”，是指国际组织、各国政府、科技公司、非政府组织等行为体为实现人工智能在全球的安全发展与和平利用而共同制定共同实施一系列原则、规范、标准、政策、法律和制度的协作过程。需要指出的是，关于人工智能技术在军事领域

3、的应用问题有独立的国际规制进程，本研究II报告不涉及为军事目的开发或使用人工智能的全球治理进程。目目录录前 言.I一、全球人工智能治理现状.1（一）多边平台的进展.1（二）多方机制的成果.2（三）相关国家/地区的做法.3（四）科技企业的实践.5二、全球人工智能治理的十大重要议题.6（一）国家主权原则和人工智能发展.6（二）社会变革和可持续发展.6（三）技术创新和产业发展.7（四）人机情感和生命伦理.8（五）内容安全风险.8（六）模型算法安全风险.8（七）数据安全和隐私保护.9（八）产品责任和风险.9（九）知识产权保护.10（十）智能鸿沟和国际协作.10三、构建完善全球人工智能治理体系.11（一

4、）目标宗旨.11（二）原则共识.111.尊重国家主权.112.统筹发展和安全.113.坚持平等互利普惠.12（三）行动路径.121.坚持以人为本.122.坚守智能向善.123.赋能千行百业.124.防范应对安全风险.135.加强国际合作能力建设.136.完善全球治理机制.14附录：近年来全球人工智能治理重要文件概览.161一、全球人工智能治理现状一、全球人工智能治理现状1956 年，达特茅斯会议正式确定了“人工智能”术语，开辟了人工智能科学的独立研究。此后，人工智能发展经历了数次起伏，并于上世纪九十年代取得了一定突破。1997年深蓝超级计算机战胜国际象棋世界冠军，它不仅引起了公众对于技术未来的

5、思考，也促进了国际社会关于人工智能伦理的早期讨论。随着人工智能技术向机器学习、强化学习、深度学习等方向演进，2016 年 AlphaGo 战胜围棋世界冠军成为标志性事件，全球人工智能治理迈入制定原则方针的探索阶段。如2016 年，电气电子工程师学会提出人工智能的道德准则设计，为自主和智能系统的设计和开发提供指引；2017年，全球行业领袖发起阿西洛马人工智能原则，提出技术发展“有益于人类”的守则等。2022 年以来，ChatGPT 问世并风靡全球，加速推动人工智能从“小模型+判别式”向“大模型+生成式”转变，加强全球人工智能治理的呼声和行动也全面兴起。（一）多边平台的进展（一）多边平台的进展多边

6、治理进程是全球人工智能治理的主要渠道，是推动国际社会在人工智能相关领域达成普遍共识的关键。联合国在全球人工智能治理上发挥了重要引领作用。2023 年，联合国秘书长安东尼古特雷斯宣布成立人工智2能高级别咨询机构，这一机构在 2024 年发布了为人类治理人工智能最终报告，提出了加强全球合作的行动方案。2024 年，联合国大会通过了加强人工智能能力建设国际合作 抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展两项决议，有力促进了人工智能国际合作；联合国未来峰会通过全球数字契约，提出“加强人工智能国际治理，造福人类”的目标，授权联合国设立人工智能国际科学小组和人工智能治理全球对话等机制