1、jjlftAI ffl&:i:)8J.ltlii5 Safety and Global Governance of Generative Al Report i!tWifit!ltR&*3Uffrt*Jllrr.if3f*t9.J 2024iF 1 F.I Jan 2024 目 录 目 录 编者的话编者的话I序言序言II人工智能治理：为了人工智能发展得更好更快，人工智能治理：为了人工智能发展得更好更快，II以加速实现全球可持续发展目标以加速实现全球可持续发展目标II龚克II介绍介绍V第一章第一章 生成式人工智能的风险与挑战生成式人工智能的风险与挑战1大语言模型怪兽对利维坦与法律秩序的挑战大语言

2、模型怪兽对利维坦与法律秩序的挑战1季卫东1以更积极主动的治理应对人工智能发展中的风险与挑战以更积极主动的治理应对人工智能发展中的风险与挑战4段伟文4人类价值对齐难题与大模型伦理嵌入人类价值对齐难题与大模型伦理嵌入6王小红6人工智能的全球监管：主要差距和核心挑战人工智能的全球监管：主要差距和核心挑战8罗斯塔姆J诺伊维尔特(Rostam J.Neuwirth)8生成式人工智能对全球治理的挑战与应对生成式人工智能对全球治理的挑战与应对9孙南翔9全球人工智能风险不可避免地需要全球合作全球人工智能风险不可避免地需要全球合作10邓肯卡斯-贝格斯(Duncan Cass-Beggs)10第二章第二章 生成式

3、人工智能的全球治理策略生成式人工智能的全球治理策略12基础模型和生成式人工智能时代全球人工智能治理的制度设计原则基础模型和生成式人工智能时代全球人工智能治理的制度设计原则12尼古拉斯莫斯(Nicolas Mos)，尤兰达兰奎斯特(Yolanda Lannquist)，12尼基伊利亚迪斯(Niki Iliadis)，尼古拉斯米埃赫(Nicolas Miailhe)12有关全球人工智能治理的关键政策建议有关全球人工智能治理的关键政策建议14周辉14基础模型开发和部署的国际监督基础模型开发和部署的国际监督16罗伯特特拉格(Robert Trager)，菲恩海德(Fynn Heide)16协调、合作、

4、紧迫性：国际人工智能治理的优先事项协调、合作、紧迫性：国际人工智能治理的优先事项18卡洛斯伊格纳西奥古铁雷斯(Carlos Ignacio Gutierrez)18数据伦理与联合国教科文组织开放科学建议数据伦理与联合国教科文组织开放科学建议20国际科技数据委员会数据伦理工作组20通用人工智能或大型基础模型的国际治理：渐进原则与开放探索通用人工智能或大型基础模型的国际治理：渐进原则与开放探索22张鹏22I 第三章第三章 人工智能治理助力发展中国家与全球可持续发展人工智能治理助力发展中国家与全球可持续发展23发展中国家距离利用人工智能的力量还有多远？发展中国家距离利用人工智能的力量还有多远？23尤

5、金尼奥巴尔加斯加西亚(Eugenio Vargas Garcia)23推动发展中国家参与人工智能治理与可持续发展推动发展中国家参与人工智能治理与可持续发展25鲁传颖25人工智能供应链与地缘政治：与全球南方国家共同治理人工智能供应链与地缘政治：与全球南方国家共同治理27方淑霞(Marie-Therese Png)27人工智能监督可以从碳排放中学到什么人工智能监督可以从碳排放中学到什么29夏洛特西格曼(Charlotte Siegmann)，丹尼尔普里维特拉(Daniel Privitera)29人工智能治理如何促进全球经济增长与可持续发展？人工智能治理如何促进全球经济增长与可持续发展？31廖璐3

6、1为全球大多数人的人工智能治理以东南亚为例为全球大多数人的人工智能治理以东南亚为例32莉安托涅特蔡(Lyantoniette Chua)32第四章第四章 工程视角下的人工智能治理工程视角下的人工智能治理34理解模型能力是全球人工智能治理的优先事项理解模型能力是全球人工智能治理的优先事项34纳撒尼尔沙拉丁(Nathaniel Sharadin)34标准化视角下的人工智能安全治理全球协作与敏捷更新标准化视角下的人工智能安全治理全球协作与敏捷更新36马骋昊、高万琪、范思雨36人工智能治理一场再建巴比塔的革命人工智能治理一场再建巴比塔的革命38王俊，娜迪娅38新加坡治理生成式人工智能的方法和实践新加坡