1、 1 先进人工智能安全国际科学报告2025 年 1 月 国际人工智能安全报告 先进人工智能安全国际科学报告 2025 年 1 月 2 贡献者 主席 Yoshua Bengio教授,蒙特利尔大学/Mila-魁北克人工智能研究所专家顾问小组 该国际小组成员由下列 30 个国家的政府、联合国、欧盟和经合组织提名。澳大利亚：Bronwyn Fox，新南威尔士大学 巴西：Andr Carlos Ponce de Leon Ferreira de Carvalho，圣保罗大学数学与计算机科学研究所 加拿大：Mona Nemer，加拿大首席科学顾问 智利：Raquel Pezoa Rivera，费德里科圣玛

2、丽亚 理工大学 中国：曾毅，中国科学院 欧盟：Juha Heikkil，欧洲人工智能办公室 法国：Guillaume Avrin，法國国家人工智能协调机构 德国：Antonio Krger，德国人工智能研究中心 印度：Balaraman Ravindran，印度理工学院马德拉斯分校瓦德瓦尼数据科学与人工智能学院 印度尼西亚：Hammam Riza，人工智能合作研究与工业创新（KORIKA）爱尔兰：Ciarn Seoighe，爱尔兰研究中心 以色列：Ziv Katzir，以色列创新局 意大利：Andrea Monti，意大利部长理事会主席国数字化转型副国务卿的法律专家 日本：北野宏明，索尼集团公

3、司 肯尼亚：Nusu Mwamanzi，信息通信技术和数字经济部 沙特阿拉伯王国：Fahad Albalawi，沙特数据和人工智能管理局局长 墨西哥：Jos Ramn Lpez Portillo，LobsterTel 荷兰：Haroon Sheikh，荷兰政府政策科学委员会 新西兰：Gill Jolly，新西兰商业、创新和就业部 尼日利亚：Olubunmi Ajala，尼日利亚通信、创新和数字经济部 经济合作与发展组织：Jerry Sheehan，科学、技术和创新局主任 菲律宾：Dominic Vincent Ligot，CirroLytix 韩国：Kyoung Mu Lee，首尔国立大学电子

4、与计算机工程系 前言 3 卢旺达：Crystal Rugege，卢旺达国家人工智能和创新政策中心 新加坡：Denise Wong，新加坡资讯通信媒体发展局数据创新与保护小组 西班牙：Nuria Oliver，ELLIS Alicante 瑞士：Christian Busch，瑞士联邦经济、教育与研究部 土耳其：Ahmet Halit Hatip，土耳其工业和技术部 乌克兰：Oleksii Molchanovskyi，乌克兰人工智能开发专家委员会 阿联酋：Marwan Alserkal，阿联酋内阁事务部、总理办公室 英国：Chris Johnson，英国科学、创新和技术部首席科学顾问 联合国：A

5、mandeep Singh Gill，联合国数字和新兴技术副秘书长兼秘书长技术问题特使 美国：Saif M.Khan，美国商务部 科研首席专家 Sren Mindermann，Mila-魁北克人工智能研究所 首席撰稿人 Daniel Privitera，KIRA 中心 撰稿团队 Tamay Besiroglu，Epoch AI Rishi Bommasani，斯坦福大学 Stephen Casper，麻省理工学院 Yejin Choi，斯坦福大学 Philip Fox，KIRA 中心 Ben Garfinkel，牛津大学 Danielle Goldfarb，Mila-魁北克人工智能研究所 Ho

6、da Heidari，卡内基梅隆大学 Anson Ho，Epoch AI Sayash Kapoor，普林斯顿大学 Leila Khalatbari，香港科技大学 Shayne Longpre，麻省理工学院 Sam Manning，人工智能治理中心（Centre for the Governance of AI)Vasilios Mavroudis，艾伦图灵研究所 前言 4 Mantas Mazeika，伊利诺伊大学香槟分校 Julian Michael，纽约大学 Jessica Newman，加州大学伯克利分校 吴君仪，安远AI Chinasa T.Okolo，布鲁金斯学会 Deborah