3-都文龙-AIGC浪潮下金融内容风控的新挑战.pdf

1、QECOn2023全球软件质量&效能大会GLOBAL SOFTWARE QUALITY & EFFICIENCY CONFERENCE7月28-29日中国-北京QECon组委会主办方：#page#数生智慧高质量发医新空OECon全球软件质量&效能大会AIGC浪潮下金融内容风控的新挑战都文龙蚂蚁财富技术专家本文件仅供技术交流，不得用于商业用途。未经许可，任何组织和个人不得复制、传播#page#9588001金融场景下AIGC的挑战02金融内容风控标准化目录03金融内容风控建设体系04基于风险预判的数据外泛化体系CONTENTS05未来风控技术展望数生智慧全球软件质量&效能大会富医量发园新#pag

2、e#QECon金融场景下01AIGC的挑战数生智慧全球软件质量&双能大会富医量发园新字#page#95880AIGC的发展历程至今195019902010快速发展阶段早期萌芽阶段沉淀积累阶段GAN1957年首支电脑创作的音乐作品第一部人工智能创作的小说GPT系列艾伦图灵提出著名的“灵图测试微软全自动同声传译系统IBM创造的语音控制打字机TangoraDALL-E实验性实用性百花齐放数生智慧全球软件质量&双能大会富医量发园新字#page#95880AIGC的特点与应用高效性特点低成本丰富性新的生产力工具ChatgptJasper热门产品Midjourney侵权风险数生智慧全球软件质量&双能大会富

3、医量发园新#page#9ECon国内AIGC风控研究现状审核量需求大违规类别多样鉴别难度高AIGC生产效率高数量多AIGC内容生产逼真、以假涉及文本、图片、视频等乱真合成类型C数美TUPUTECH中阿里云科技网易易盾数生智慧全球软件质量&效能大会富医量发园新#page#QECon金融场景下的AIGC以问答的形式检索金融数据AIGC+彭博财富管理领域，提高投顾服务效率AIGC+摩根士丹利风险控制领域，非结构化信息提取处理AIGC+德意志银行工作推理创新应用运用方式能力方式范围技术数生智慧全球软件质量&效能大会富医量发园新家#page#95880金融特性下的风控问题容忍度低专业门槛高金融风险种类多

4、场景严肃、小问题容易被AIGC内容质量需要金融背金融风险的特征发散、后无限放大景知识进行鉴别置性金融内容风控标准化金融内容风控建设体系基于风险预判的数据外泛化体系数生智慧全球软件质量&双能大会高质量发园新#page#9ECon金融内容风控标准化-文本金融合规通用能力互联网广告管理办法中华人民共和国广告法中华人民共和国反基断法中国人民银行金融消费者权益金融业务合规金融逻辑常识性保护实施办法9个三级分类流畅度中华人民共和国反不正当竞争法关于进一步规范金融营销宣传金融逻辑一致性专业可理解性行为的通知2个三级分类语法正确性四部门提出“八不得”规范金7个三级分类融营销宣传著作权法大模型个人信息保护法等相

5、关法律法规多样性2个三级分类事实性相关性4个三级分类3个三级分类安全合规8个二级分类数生智慧全球软件质量&效能大会高质量发园新#page#page#9ECon金融内容风控体系目标风险拦截、业务提效业务文案改写文案摘要文生图图生图文案扩写场景事中事后姐重AI检测规则运营训练集祛毒金融合规奥情风控大模型合规热更新风控Prompt检测应急保障检测场景规则库通用检测能力安全管理择优自定义安全检测能力基础编排管理原子能力热插拔人机协同交互稳定性能力金融内容标准化数生智慧全球软件质量&双能大会高质发新学#page#QECon金融内容风控体系一多模态ai检测能力图文大模型属性事实性相关性图文一致性文图图表金

6、融合规检测1.风控标准定义检测任务营销合规分类金融元素合理性真实性图图表视频2.小模型和大模型配合应用流畅度美学质量美学质量主观质量评估3.追求正例误杀率、负例召回率通用检测语法错误识别合理性检测一致性检验客观质量评估多样性敏感事件黄路毒安全检测低俗唇骂政策负面敏感高敏人物数生智慧全球软件质量&双能大会富国量发园新家#page#QECon金融内容风控体系一文合规检测能力一段话例子模型演进（bert分类-基于敏感词的边界识别增强）关键挑战与应对边界定义模糊风险类型多样收益承诺、功能不符、夸大宣传.不同业务同学对合规标准理解不一致自建数据集+标准语义理解热更新敏感词库自建数据集（被动接收数据-主动