复旦智库：2025全球人工智能治理新趋势报告：以“上海宣言”为起点的观察（33页）.pdf

核心结论速览： 联合国在全球AI治理中的核心地位正进一步凸显：2024年联合国通过《全球数字契约》，成立国际AI科学小组、发起全球AI治理对话机制、探讨设立全球AI基金。2025年1月，秘书长技术事务特使办公室过渡到联合国数字和新兴技术办公室（ODET），授权进一步强化。 “智能鸿沟”成为全球南方国家核心关切：发展中国家在AI技术可获得性、基础设施、资金投入、人才储备等方面与发达国家差距显著。全球南方不仅面临技术获取限制，更面临数据中心、算力芯片、电力能源等基础设施短缺的核心制约。 全球AI治理碎片化可能加剧：国际组织竞相主导治理议程但缺乏协调；主要国家治理模式差异显著（美国“护栏式创新”vs欧盟“风险控制”vs英国“安全监管分离”vs全球南方“平衡监管创新”）；南北方风险认知分歧、地缘政治深度嵌入、私营企业技术主导共同构成深层障碍。 AI安全风险关注度出现相对衰退：巴黎AI行动峰会上，讨论焦点从布莱切利和首尔会议的安全风险核心转向更广泛议题。特朗普政府废除要求AI开发者与联邦政府分享安全评估的行政令，加州否决SB1047法案——安全似乎正被创新热情取代。 全球南方国家正从规则接受者向规则参与者转变：通过联合国能力建设决议、《上海宣言》、“人工智能能力建设研讨班”等机制，全球南方在治理话语权和规则制定中的参与度正在提升。“DeepSeek效应”使发展中国家看到构建自主AI生态的可行路径。 多利益攸关方协作是强化AI能力建设的主要路径：应在联合国框架下协调发达国家与发展中国家利益诉求、促进公共部门与私营部门深入合作，形成多元主体共同参与的治理格局。 《上海宣言》为全球AI治理提供了新起点：2024年WAIC发布的《上海宣言》明确提出构建更具普惠性、创新性、包容性与安全性的AI全球治理框架，强调“主权、包容与发展”原则，在亚洲和非洲部分地区引起广泛共鸣。研究背景与全球AI治理全景。2024年世界人工智能大会（WAIC）上发布的《人工智能全球治理上海宣言》为国际社会协力探索AI治理提供了新起点。复旦大学发展研究院全球人工智能创新治理中心以此为起点，通过深度访谈来自全球十余个国家的人工智能治理领域权威专家，结合前期持续研究积累，系统梳理了全球AI治理的新趋势、新变化。报告的核心判断是：联合国在全球AI治理进程中的作用正进一步凸显，应在联合国框架下建立多利益攸关方协同、多元主体共同参与的AI治理体系；应在AI技术发展进程中警惕“智能鸿沟”，确保AI创新带来的社会经济福祉惠及全人类命运共同体；现阶段AI治理仍面临碎片化问题，应促进联合国AI治理框架与其他国际组织相互兼容，推动国际规则和标准对接；各方应保持对AI技术风险的安全意识，防止相关风险产生政治、社会、经济层面的溢出影响；全球南方国家应在AI治理中发挥更大作用。趋势一：联合国在全球AI治理中的作用日益凸显。联合国因其独特的合法性、代表性和中立性，被广泛认为是制定普遍适用性AI治理机制的最可能平台。自2023年10月秘书长宣布组建“高级别人工智能咨询机构”（HLAB-AI）以来，联合国系统在AI治理领域的行动显著加速。2024年9月，咨询机构发布《为人类治理人工智能》最终报告，提出包括创建AI能力发展网络在内的七个关键建议，部分被采纳至《全球数字契约》。2024年9月通过的《全球数字契约》包含多项重要举措：成立人工智能科学小组（Scientific Panel on AI）——类似IPCC的独立国际科学专家组，定期报告技术发展状况与社会影响；发起全球对话机制（Global Dialogue on AI Governance）——为规范谈判和能力建设计划协调提供平台；探讨设立全球人工智能基金（Global AI Fund）——为基础设施项目特别是资源匮乏地区提供资金支持。2024年7月1日，联合国大会通过了中国提出的《加强人工智能能力建设国际合作决议》，强调AI发展应坚持“以人为本、智能向善、造福人类”原则，鼓励通过国际合作帮助各国特别是发展中国家加强AI能力建设。2025年1月起，秘书长技术事务特使办公室过渡到新的联合国数字和新兴技术办公室（ODET），授权进一步强化，重点负责支持《全球数字契约》的后续行动和实施。趋势二：全球南方国家普遍关注“智能鸿沟”。随着AI技术快速发展，发展中国家与发达国家之间以及各国国内不同群体之间的“智能鸿沟”问题进一步凸显。这一鸿沟涵盖多个维度：技术可获得性不对称。全球南方在AI治理中的利益诉求明确：一方面避免不成比例地承担AI的外部性风险，另一方面努力确保对先进AI技术的平等获取。但先进模型的获取受到地缘政治牵制。基础设施建设能力不均衡。相对于获得AI模型，一个更重要的问题是使南方国家拥有可以部署这些模型的基础设施。全球南方国家需要数据中心、算力芯片、电力能源以及配套的商业模式，且需要大量资本投入。巴西、印尼等国的实践表明，基础设施缺乏不仅制约AI技术发展，也为国家AI技术监管能力带来挑战。资金投入能力不平均。当国家监管路径不确定、法律框架尚未完善时，可能阻碍他国对其AI领域的投资。资本能力的不平等还会扩大国内数字鸿沟——开发AI系统的受益者可能多为国内富人阶层。专业人才不平等。AI人才缺口分为两类：开发先进AI技术的专业人才不足，且培养的人才极易为发达国家科技公司吸纳；可以熟练运用AI技术的人才同样短缺，高质量的劳动力培训项目因基础设施和互联网接入性匮乏而难以充分发挥潜力。“DeepSeek效应”提供新希望。2025年初，源自中国的开源大模型DeepSeek以其高性能、低算力、可本地化训练的特性，令许多发展中国家看到了构建自主AI生态的可行路径。非洲主流财经媒体《非洲商业》表示，廉价、可部署的AI技术可能使非洲社会的教育、农业、医疗等发展瓶颈得以突破。趋势三：全球AI治理碎片化可能加剧。当前全球AI治理呈现高度碎片化状态，主要体现在三个层面：国际组织竞争主导权。联合国、经合组织、二十国集团、多边开发银行及区域组织均积极介入AI治理议题，竞相牵头治理议程，但缺乏有效协调机制。欧盟标准中约三分之二与国际标准一致，但约三分之一存在差异，导致企业跨国合规面临摩擦。2025年初巴黎AI行动峰会暴露更深层次裂痕——美英将创新和国家安全列为优先事项并拒绝签署合作宣言。主要国家治理模式差异显著： 美国“护栏式创新” ：倾向于大型私营企业内部的“去监管”路径，高度关注内部产业竞争力同时强调外部安全，将AI产业链直接纳入地缘政治结构。 欧盟“风险控制” ：推行以风险为基础的严格监管，《人工智能法案》成为全球首部全面规范AI的法规，试图形成“布鲁塞尔效应”。 英国“安全监管分离” ：设立首个人工智能安全研究所专注于前沿安全研究，其余监管职责分散至现有监管机构。 全球南方“平衡监管创新” ：采用顶层架构和问题导向结合的治理路径，针对具体应用场景和风险点进行监管，逐步倾向于发布软法或模版法文件。深层障碍：全球南北方风险认知相左（北方关注“生存性风险”，南方关注“技术获取与普惠”和“滥用风险”）；地缘政治深度嵌入与信任缺失；私营企业占据技术主导地位，国家监管相对滞后。趋势四：全球AI安全风险仍存，关注度相对衰退。内生性安全风险：AI系统的可问责性尚未得到保障（伦理原则已难以满足监管需求）；可解释性尚未充分实现（当前用一个模型解释另一个模型的方法存在局限性）；虚假信息和AI欺骗问题引发担忧；数据安全保护应加强。安全风险外溢：AI技术可能加剧地缘政治态势紧张（改变权力关系、增加不稳定性）；可能削弱国际经济格局稳定性（发达与发展中国家差距扩大）；可能带来社会伦理挑战（系统被不当利用、算法操纵舆论）。安全关注度相对衰退：巴黎AI行动峰会上，讨论主题从布莱切利和首尔会议的核心——安全风险——转变为更广泛议题。加州否决SB1047法案，特朗普政府废除AI安全评估行政令——对AI安全保障的集中关注时期可能已经过去。行动建议框架。报告提出四大行动建议方向：一、在联合国框架下强化多利益攸关方协作。以搭建高效补充机制为短期目标并最终“汇入”联合国框架；多边协调与内部革新并举，引领全球AI治理新路径。联合国应积极协调主权国家、跨国公司以及非国家行为体实现有效职能分工。二、多元主体共同强化能力建设。构建多元协同合作网络（发达国家与发展中国家协作、公共部门与私营部门协同）；锚定关键议题（基础设施、技术应用、治理能力）；探索分层落地实施路径（推动宣言倡议落地转化、率先开展“小而美”项目、探索双边-小多边-区域-全球多层级合作）。三、增进AI治理规则对接与政策协调。推动“最大公约数”合作（原则层面承认多样性、议题层面识别共同风险、机制层面推动具体领域先行）；夯实国际合作互信基础（共享技术进展透明度、公开准确澄清国家意图、建立安全验证机制）；促进规则兼容与互认（探索兼容互认路径、推进应用场景主导的监管立法、发挥国际标准桥梁作用）。四、探索全球南方国家AI治理新路径。强化多边合作构建包容性治理架构（南北合作+南南合作）；促进开放协同倡导资源共享与互操作性（发展面向数字基础设施的金融投资工具、推动数据人才资源共享、倡导互操作性与标准化）；明确战略定位实现适应性治理。延伸阅读。以上为报告核心趋势与行动建议分析，如需获取完整报告12国专家访谈实录及全部观点，请访问下载页下载完整PDF报告。FAQ区块。问：为什么联合国在全球AI治理中的作用正进一步凸显？答：联合国具备其他国际组织无法替代的三重优势：①合法性——最广泛的成员国代表性，涵盖全球几乎所有国家；②中立性——相对中立地位使其能协调不同阵营的利益诉求；③执行力——在所有成员国设有驻地代表，能有效与各国政府和当地利益相关方沟通。《全球数字契约》的通过和ODET的设立表明联合国正从原则倡导转向机制建设。问：“智能鸿沟”与传统的“数字鸿沟”有何不同？答：数字鸿沟主要关注互联网接入和基本数字技能的差距。智能鸿沟更深层——不仅包括技术可及性，还包括基础设施（数据中心、算力芯片、电力能源）、资金投入、专业人才、治理能力等多维度差距。更关键的是，智能鸿沟可能导致发展中国家陷入“技术依赖”陷阱，丧失参与全球AI治理的话语权，从“规则制定者”沦为“规则接受者”。问：全球AI治理碎片化的核心风险是什么？答：三大核心风险：①企业合规成本大幅上升——不同监管体系要求不一，跨国运营面临摩擦；②发展中国家被边缘化——缺乏参与多轨治理的能力和资源；③安全漏洞难以弥合——分散的治理体系无法有效应对AI技术带来的跨国界风险（如深度伪造、AI辅助生物武器设计等）。碎片化最终可能导致“竞次”效应——各国为吸引AI投资竞相降低监管标准。问：《上海宣言》在全球AI治理中扮演什么角色？答：《上海宣言》是2024年WAIC发布的重要文件，明确提出构建更具普惠性、创新性、包容性与安全性的AI全球治理框架。其独特价值在于：①强调“主权、包容与发展”原则，与西方主导的治理话语形成互补；②为全球南方国家提供了“发展优先”的治理合法性依据；③在亚洲和非洲部分地区引起广泛共鸣。多位受访专家（包括越南、巴西、阿根廷学者）均将其视为全球AI治理的重要补充视角。问：全球南方国家如何突破AI治理中的“中心-边缘”困境？答：报告提出四条路径：①强化南南合作——通过金砖、“BRICS+”等机制形成战略合力，集体发声；②利用开源模型机遇——DeepSeek等高性能开源模型使发展中国家得以以有限资源部署AI应用；③参与能力建设计划——中国已举办两期AI能力建设研讨班，吸引30+国家参与；④发展“适应性治理”——采用轻量级、可迭代的监管方式，避免僵化法律框架阻碍创新，同时保障国家主权与安全。数据来源说明。本报告数据来源于复旦大学发展研究院全球人工智能创新治理中心发布的《全球人工智能治理新趋势：以“上海宣言”为起点的观察》研究报告。报告基于对来自联合国、印度、印尼、韩国、新加坡、越南、阿联酋、阿根廷、巴西、瑞士、英国、美国等国家和国际组织的12位AI治理领域权威专家的深度访谈，结合前期持续研究积累综合分析得出。