腾讯云：中国金融生成式AI多模态内容鉴伪与安全防御报告（2025）（66页）.pdf

1、1中国融成式AI多模态内容鉴伪与安全防御白皮书(2025)兼顾“质量的发展”与“平的安全”中国工商银行金融科技研究院腾讯云计算（北京）有限责任公司北京金融科技产业联盟2研究说明生成式AI作为一项具有颠覆性潜力的技术，其技术本身并无善恶取向。它可以通过多模态（如文本、图像、音频、视频）内容生成能力，显著提升内容创作效率。然而技术是一把双刃剑，生成式AI一旦被恶意用于伪造虚假信息、深度造假等场景，将成为破坏信任机制、操纵舆论、进行网络欺诈的工具，对国家安全、社会秩序与个人权益构成严峻挑战。本白皮书聚焦于生成式AI技术滥用带来的风险，倡导负责任创新，通过发展有效的鉴伪与防御技术，遏制生成式AI技术的

2、滥用，确保生成式AI在安全、合规的轨道上健康发展，增进社会福祉。概念定义生成式生成式AI多模态内容鉴伪多模态内容鉴伪，是指利用一系列技术手段，对由AI生成的文本、图像、音频、视频及其混合形式的多模态内容进行检测、识别和溯源，以判断其真伪性和原始生成过程。生成式生成式AI多模态内容安全防御多模态内容安全防御，是一个系统性概念。它不仅包括底层的鉴伪技术，更涵盖围绕AIGC内容风险构建的一整套管理框架与技术体系。其最终目标是构建一个从技术到管理、从源头到终端的多层次、协同化的综合治理防御生态，以保障数字空间的信息安全与可信秩序。3构筑未来年融安全的智能基当今时代，生成式AI浪潮奔涌，正深刻重塑全球金

3、融业的创新范式与服务模式。其为提升服务效率、优化客户体验、驱动业务创新注入了磅礴动能。然，福兮祸所伏，与之伴生的多模态深度伪造内容，亦使得金融欺诈、虚假信息传播呈现出高技术性、高隐蔽性和强危害性的新特征，对国家金融安全、机构风控体系及公众财产安全构成了前所未有的严峻挑战。金融是国之重器，安全是其生命线。面对“生成式AI多模态内容伪造”这把悬顶之剑，构建一套精准、高效、可靠的多模态内容鉴伪与安全防御体系，已不再是未雨绸缪的技术选项，而是关乎金融稳定大局、必须全力以赴完成的战略任务。这要求我们必须从传统规则的“事后追溯”转向智能驱动的“事前预警”与“事中阻断”，筑牢金融安全的防火墙。作为中国金融业

4、的一员，中国工商银行深知肩头责任之重。我们始终将风险防控视为立业之本，在积极拥抱技术革命的同时，亦前瞻性地布局并实践了生成式AI多模态内容安全防御。我们坚信，唯有以技术对抗技术，以创新管理创新，方能在这场“魔高一尺，道高一丈”的博弈中占据主动，守护好人民群众的“钱袋子”。独行快，众行远。应对这一跨机构、跨行业的系统性风险，仅凭单一力量远远不够。这正是我们携手业界同仁共同撰写并发布中国金融生成式AI多模态内容鉴伪与安全防御白皮书（2025）的初心所在，力求为行业提供一份兼具理论高度与实践价值的行动指南。我们希望以此为契机，凝聚最广泛的行业共识，推动技术标准、检测工具与防御能力的共建共享，联合构建

5、一个开放、协同、联动的金融AI安全防御生态。让我们携手并进，共同驾驭生成式AI的巨浪，使其更好地服务实体经济、惠及国计民生，为数字中国的建设夯实安全基石。序罗毅中国工商银行股份有限公司软件开发中心总经理4打造智能信任新基建，护航融业务可持续创新当前，我们正站在金融智能化转型的关键节点。生成式人工智能的爆发式发展，不仅重塑着金融服务模式，更在重新定义金融安全边界。随着远程开户、线上信贷等业务快速普及，多模态深度伪造风险已成为制约业务创新、影响客户信任的关键因素。作为金融行业数字化转型的同行者，我们清醒地认识到：金融安全已从单纯的技术问题，升级为关乎业务连续性、品牌信誉和市场地位的核心竞争力。伪造

6、身份认证、虚假资料提交、合成音视频诈骗等新型风险，正在挑战传统风控体系的极限，直接威胁金融机构的业务安全与客户资产。面对这一严峻挑战，腾讯云致力于将领先的AI安全能力转化为支撑业务创新的坚实保障。我们基于对金融业务场景的深度理解，打造了覆盖业务全流程的多模态内容鉴伪解决方案。从远程面签到信贷审批，从大额转账到智能客服，我们的技术正在帮助金融机构在保障安全的前提下，持续拓展服务边界、提升客户体验。面对行业安全攻防战，单一企业的技术优势难以持久对抗。唯有共建产业安全生态，才能构筑抵御AI伪造威胁的坚实防线。为此，我们联合业界发布了中国金融生成式AI多模态内容鉴伪与安全防御白皮书（2025），将腾讯