1、金融行业金融行业AIAI应用新机遇与新场景应用新机遇与新场景赵巍丨赵巍丨 腾讯云区域金融解决方案负责人腾讯云区域金融解决方案负责人目录目录PART 1PART 1 金融行业金融行业AIAI应用洞察应用洞察PART 2PART 2 从从0 0到到1 1,把大模型装进银行,把大模型装进银行PART 3PART 3 典型的金融行业典型的金融行业AIAI应用场景应用场景金融行业金融行业AIAI应用洞察应用洞察0101 金融行业金融行业AIAI大模型的研发投入显著增加大模型的研发投入显著增加 AIAI大模型在金融行业的应用场景正从简单到复杂大模型在金融行业的应用场景正从简单到复杂加速推进加速推进 金融机
2、构应根据其资源能力选择不同的大模型应用金融机构应根据其资源能力选择不同的大模型应用路径,并需打造多样化的能力要素路径,并需打造多样化的能力要素 构建大模型生态是金融机构落地大模型的主要构建大模型生态是金融机构落地大模型的主要趋势趋势 1 12 23 34 42024年,中国金融行业AI投资规模196.94亿,到2027年将达到415.48亿元,增幅达到111%从业务边缘到核心,在未来18个月内,支付清算、智能投研、数据分析、资产尽调、资产评估等是金融机构主要的落地场景。是否自主建设、是否构建行业模型、是否模型微调多模态技术、AI智能体、以及通过大小模型协同应用来源:IDC,2024生成式生成式
3、AIAI在金融场景部署进程及应用复杂度在金融场景部署进程及应用复杂度金融机构落地最多的大模型用例金融机构落地最多的大模型用例来源:IDC,2024 信息和业务助理类场景(金融知识抽取、理解、研报分析)内容运营场景(文案、代码、翻译等通用场景)管理和业务决策类场景(信贷审批、理财投资等决策场景)银行(含银行金融科技子公司)保险证券(含央行系机构、交易所、基金、期货)从从0 0到到1 1,把大模型装进银行,把大模型装进银行0202从从0 0到到1 1,构建金融级大模型应用的流程,构建金融级大模型应用的流程硬件选型硬件选型弹性架构设计弹性架构设计智能助手智能助手智能决策智能决策一键部署一键部署模型选
4、型模型选型DeepSeekDeepSeek到来之后,我们发现:到来之后,我们发现:1.1.落地大模型应用场景的企业,都是基于自身的明确需求,以落地大模型应用场景的企业,都是基于自身的明确需求,以小步快跑小步快跑的方式快速迭代的方式快速迭代2.2.由于大模型的迭代频率以超乎想象的速度发生,企业拥抱大模型既由于大模型的迭代频率以超乎想象的速度发生,企业拥抱大模型既不能步子迈得太大不能步子迈得太大,也,也不能一点不动不能一点不动3.3.按照以上四步即可实现企业大模型应用从按照以上四步即可实现企业大模型应用从0 0到到1 1构建,从构建,从1 1到到100100则需要根据业务场景的复杂程度,考虑模型的
5、则需要根据业务场景的复杂程度,考虑模型的领域适配领域适配和和算力优算力优化化提高效率提高效率 优化决策优化决策 激发创新激发创新知识库构建知识库构建RAGRAG系统设计系统设计腾讯云智算腾讯云智算硬件选型硬件选型弹性架构设计弹性架构设计 DeepSeekDeepSeek全系列全系列Ti-oneTi-one 生产级大模型精调工具链生产级大模型精调工具链蒸馏后模型多模式精调蒸馏后模型多模式精调满血版模型一键精调满血版模型一键精调R1-Distill-Qwen-32BR1-Distill-Qwen-32BR1-Distill-Qwen-14BR1-Distill-Qwen-14BR1-Distill
6、-Qwen-1.5BR1-Distill-Qwen-1.5BR1-Distill-Llama-70BR1-Distill-Llama-70BR1R1、V3V3满血版满血版R1-Distill-Qwen-7BR1-Distill-Qwen-7BR1-Distill-Llama-8BR1-Distill-Llama-8B 256256卡卡H20H20 全参全参SFTSFT 8 8小时小时 全参全参+LoRALoRA双模式双模式 低至低至1 1卡卡A10A10 AIAI建模部署建模部署大模型精调快速试一试:零代码一键部署大模型,网页问答体验推理效果精调训练:低代码、灵活自定义两种精调模式自由选择数据