1、金融业人工智能应用风险研究报告 北京金融科技产业联盟 2025 年 1 月I 版权声明 本报告版权属于北京金融科技产业联盟，并受法律保护。转载、编摘或利用其他方式使用本白皮书文字或观点的，应注明来源。违反上述声明者，将被追究相关法律责任。I 编制委员会 编委会成员：聂丽琴 苏建明 蒋家堂 叶 红 范 皓 陈 芳 姚辉亚 彭 晋 汪 航 史巍威 张立文 杨文俊 蒋 宁 编写组成员：程佩哲 许 啸 陈天涵 黄 蓉 艾 毅 程元鸿 金 驰 姜 璐 金 昕 李 荣 于雪松 李 昶 赵志永 曹 威 张 弛 方宇伦 许桐桐 陆碧波朱 婧 陆俊 廖 渊 安 迪 张 骏 陈鹏飞 林 杉 王翰琛 李建兴 龙 凡

2、 编审：黄本涛 刘昌娟 参编单位：北京金融股科技产业联盟秘书处、中国工商银行股份有限公司、中央国债登记结算有限责任公司、中国银联股份有限公司、深圳前海微众银行股份有限公司、蚂蚁科技集团股份有限公司、中国邮政储蓄银行股份有限公司、深信服科技股份有限公司、中国光大银行股份有限公司、国家开发银行、云南南天电子信息产业股份有限公司、马上消费金融股份有限公司、中国农业银行股份有限公司 i 目 录 一、概述.1（一）研究背景.1（二）政策与标准.1（三）技术发展路线.2 二、金融业人工智能安全风险框架.5（一）基础设施风险.5（二）数据风险.8（三）模型算法风险.10（四）应用风险.13（五）伦理风险.1

3、5（六）隐私风险.17（七）管理风险.18（八）大模型安全风险.21 三、金融业人工智能安全防护框架.24（一）基础设施防护.24（二）数据防护.26（三）模型算法防护.28（四）应用防护.31（五）伦理防护.33（六）隐私防护.34（七）管理防护.35（八）大模型安全防护.37 四、金融业人工智能风险防控案例.40（一）工商银行人工智能安全框架.40（二）蚂蚁集团大模型安全一体化解决方案.40（三）邮储银行人工智能安全技术体系.41 五、总结与展望.42 1 一、概述（一）研究背景（一）研究背景 随着金融行业数字化转型的快速发展，人工智能相关技术在金融领域的应用场景日趋广泛，已涵盖了产品创新

4、、客服营销、业务运营及风险防控等多个业务场景，特别是大模型的出现，加速了人工智能金融业应用的进程，与此同时深度伪造、对抗样本等针对人工智能的新型攻击手法不断涌现，人工智能应用风险已引起金融业的高度关注。（二）（二）政策与标准政策与标准 针对人工智能应用风险，国内外均提出发展和安全并重、加强监管和测评的核心思想，规范和保障人工智能的安全发展。国内侧重于宏观审慎监管和国家战略服务，中央金融工作会议强调加快建设金融强国，全面加强金融监管，推动金融资源用于科技创新，不断优化金融服务，防范和化解金融风险。国家网信办联合七部门于 2023 年公布生成式人工智能服务管理暂行办法，该办法旨在促进生成式人工智能

5、健康发展和规范应用，并规定了 AI 服务提供方的责任义务。金融监管总局在银行保险机构数据安全管理办法（征求意见稿）中提出，应当对人工智能模型开发应用进行统一管理，实现模型算法可验证、可审核、可追溯，就数据对决策结果影响进行解释说明和信息披露，建立人工智能应用的风险缓释措施等。中国人民银行在人工智能算法金融应用评价规范中规定了人工智能算法在金融领域应用的基本要求、评价方法和判定标准，适用于开展人工智能算法金融应用的金融机构、算法提供商 2 及第三方安全评估机构等；在人工智能算法金融应用信息披露指南中明确金融机构在使用人工智能算法提供金融产品和服务时，规范地开展算法信息披露活动，增强人工智能算法的

6、可解释性和透明度，维护金融消费者合法权益。国外监管更注重市场效率和消费者保护，确保金融机构在提供产品和服务的同时遵守相关法律和道德准则，同时建立完善的消费者投诉和纠纷解决机制。美国人工智能应用监管指南标志着欧美人工智能政策从伦理规范向监管规制逐步转变，也显示了 AI 主导权开始转向通过立法和监管来谋求科技主导地位；人工智能权利法案蓝图中提出，在不损害公众利益的情况下，用户应可以自主选择使用人工服务替代人工智能服务。欧盟通用数据保护条例等隐私及数据安全要求的发布，监管部门要求金融机构在建设和使用人工智能的同时，需满足民众对隐私保护的需求；在人工智能法中为人工智能制定了一套覆盖全过程的风险规制体系