清华大学战略与安全研究中心：人工智能全球安全治理的发展态势与新动向（2023）（13页）.pdf

1、1第2期（总第35期）人工智能全球安全治理的发展态势与新动向2023 年第 2 期（总第 35 期）REPORT01第2期（总第35期）人工智能全球安全治理的发展态势与新动向朱荣生、苏适a2022年底，ChatGPT凭借强大的信息收集和处理能力而爆火“出圈”，社会上掀起了对人工智能技术发展和应用风险的热烈讨论。这其中不乏对ChatGPT在军事上对作战行动影响的讨论。2023年3月14日，俄罗斯的一架苏-27战斗机与一架美军地MQ-9“死神”无人机发生碰撞，美军无人机受损并最终坠入黑海海域。该事件似乎验证了关于未来战场有人和无人装备将更加频繁互动的观点。这在一定程度上强化了国际社会对自主武器和人

2、工智能军事化开展全球安全治理的关切和推动意愿。有鉴于人工智能军事化风险及其全球安全治理的讨论已成为一项热点话题，本文将重点分析人工智能全球安全治理的发展趋势，并结合近期荷兰主办全球军事领域负责任的人工智能峰会的主要观点进行评论。一、人工智能全球安全治理的演进与挑战随着人们对以致命性自主武器为代表的无人装备的安全担忧日甚，国际社会对管控相关技术的意愿愈发迫切。从当前的全球安全治理主张来看，有一些人极力推崇达成一项全面禁止致命性自主武器的国际协议；另一些人则认为应当确立武器研发、部署和使用的“良好a 朱荣生，清华大学战略与安全研究中心特约专家；苏适，长安大学建筑工程学院本科生。本文是国家社会科学基

3、金“人工智能的国际安全挑战与规范演进研究（项目编号：21CGJ012）”的阶段性成果。02国际战略与安全研究报告实践”。在全球安全治理路径争论不休的情况下，美欧等发达国家却把“软规则”建构视作建立自身发展优势的工具，利用其在治理机制中的主导地位建构排华“小圈子”。与此同时，推动人工智能安全治理的知识生产面临着供给不均衡、不充足的挑战。（一）取向多元化：对致命性自主武器进行管控争论不休国际社会在如何管控致命性自主武器的议题上出现了“全面禁止”和“有限发展”的尖锐分歧。一方面，较为激进的观点主张全面禁止致命性自主武器的研发、部署和应用。人权观察组织、红十字国际委员会等国际组织不断发布研究报告，期望

4、在国际社会形成禁止致命性自主武器的舆论压力。b它们呼吁能够倡导达成一项具有约束力的国际条约，尽早对致命性自主武器开启严格的军备控制。在2022年7月的特定常规武器公约政府专家会议上，阿根廷等十个人工技术弱国坚定地反对在国际场合讨论军事无人化的好处，联合发布了禁止致命性自主武器的路线图，这预示着中小国家将形成强化全面禁武主张的核心阵营。它们强调要尽早采取的预防措施是禁止发展、交易、部署和使用致命自主武器，从而彻底排除自主武器系统对人类造成巨大伤害的可能性。c另一方面，美国拉拢盟友在2022年7月的特定常规武器公约政府专家会议上发布致命自主武器系统领域新兴技术的原则和良好实践，提出武器发展的全生命

5、周期只要符合相关规制便是所谓的“良好实践”。发达国家联盟强调“良好实践”的原因是，它们认为完b Peter Asaro,“On Banning Autonomous Weapon Systems:Human Rights,Automation,and the Dehumanization of Lethal Decision-making,”International Review of The Red Cross,Nov.2012;Peter Asaro,“On Banning Autonomous Weapon Systems:Human Rights,Automation,and the

6、 Dehumanization of Lethal Decision-making,”International Review of The Red Cross,Nov.2012c 朱荣生、乔光宇、苏适：致命性自主武器全球治理中“人类控制”的联盟政治，清华大学战略与安全研究中心，2023年第1期。03第2期（总第35期）全自主的致命性自主武器还没有出现，当前的致命性自主武器处在“有意义的人类控制”之下，就算致命性自主武器还存在一些技术风险，这些风险也会随着科技的进步而得到缓解。d上述针锋相对的立场呈现出国际社会对规制致命性自主武器不同的路径和最终指向，而这种分歧恐怕在短期内是难以化解的。（二）