金融行业AI大模型工作实践-中国工商银行-吕仲涛.pdf

1、融业融业AIAI模型作实践模型作实践中国商银席技术官中国商银席技术官吕 仲 涛吕 仲 涛智能加速融业数字化进程智能加速融业数字化进程智能已上升为国家战略智能已上升为国家战略智能加速融业数字化进程智能加速融业数字化进程起始起始专家总结规则专家总结规则第次浪潮第次浪潮专家系统专家系统+机器学习机器学习第次浪潮第次浪潮深度学习深度学习第三次浪潮第三次浪潮向通智能向通智能AI 1.0 AI 1.0 时代：分析时代：分析式式AIAI（专智能）（专智能）分析数据分析数据 给出建议给出建议 产业辅助产业辅助 AI 2.0AI 2.0时代：时代：成式成式AIAI（通智能）（通智能）深度分析数据深度分析数据 合

2、成数据合成数据 创造结果创造结果 新产业新产业1956达特茅斯会议定义AI1997深蓝机器战略国际象棋师2012CNNCNN卷积神经络算法卷积神经络算法夺得图像分类领域第2016AlphaGo击败李世2018Google推出BERTBERT模型模型2022ChatGPTChatGPT成式智能爆发成式智能爆发泛化能不描述能有限，算不分析式分析式AIAI规模应规模应（推荐模型、控模型、OCR、图像识别、内容审核、智能客服等）成式成式AIAI规模成熟应规模成熟应2023GPTGPT-4 4多任务的通模型多任务的通模型预训练预训练+微调微调+强化学习强化学习+提提+预测预测超强多轮对话、智能涌现、思维

3、链全任务的通模型全任务的通模型更强提词更强提词+涌现能涌现能结果可解释、学习、能/结果可控模型时代开启模型时代开启多轮对话、问题求解取多轮对话、问题求解取得突破性进展得突破性进展专家规则专家规则机器机器学习学习深度学习深度学习模型模型19762006单任务的专模型单任务的专模型预训练预训练+精调精调涌现能，碎化1980?2024SoraSora视频成进可实时代视频成进可实时代2 2024024年政府年政府作报告推作报告推进数字经济进数字经济创新发展创新发展20232023年中央年中央融作会融作会议做好融议做好融五篇章五篇章第四个五第四个五年规划和年规划和20352035年远景年远景标纲要标纲要

4、国家融监国家融监督管理总局督管理总局“五篇“五篇章”指导章”指导意意商银商银AIAI模型作实践模型作实践商银商银AIAI模型技术体系架构模型技术体系架构开放共享“智能开放共享“智能+融”态融”态1+X1+X范式范式全链敏捷全链敏捷智能体应研发智能体应研发模型开发模型开发.数据程数据程全域防护全域防护应安全应安全模型安全模型安全数据安全数据安全.AIAI原应市场原应市场多模态知识检索多模态知识检索五项全能的融智能中枢（五项全能的融智能中枢（AgentAgent）对话式数据分析对话式数据分析智能化档编写智能化档编写.远程银远程银融市场融市场.座席助座席助质检助质检助知识运营助知识运营助投研助投研助

5、交易助交易助业务管理助业务管理助.主可控千卡级性能主可控千卡级性能云算集群云算集群最懂融、多模态最懂融、多模态千亿级融模型千亿级融模型质多维质多维最融数据集最融数据集三柱三柱异构融合的算底座异构融合的算底座开放兼容开放兼容百模千态百模千态智谱智谱GLMGLM云智融合的智算云原架构云智融合的智算云原架构独云底座独云底座解耦部署解耦部署|快速迭代快速迭代智能运维智能运维动隔离动隔离|愈恢复愈恢复资源池化资源池化虚拟化虚拟化|多卡聚合多卡聚合速启动速启动并发加载并发加载|预热缓存预热缓存弹性调度弹性调度弹性伸缩弹性伸缩|精细分配精细分配异构统管异构统管异构芯异构芯|统调度统调度训练算集群训练算集群千

6、卡规模千卡规模|性能算性能算|信创软硬件信创软硬件推理算集群推理算集群速推理速推理|异构芯异构芯千卡规模、存算效协同的模型信创算集群千卡规模、存算效协同的模型信创算集群华为华为盘古盘古讯讯星星LlaMALlaMA通义通义千问千问百川百川MistralMistral.多层次多能融模型算法矩阵多层次多能融模型算法矩阵企业模型企业模型基于企业私有通识数据、融业通识数据次训练基于企业私有通识数据、融业通识数据次训练融业模型融业模型基于融业通识数据次训练基于融业通识数据次训练遥感多模态遥感多模态模型模型WebWeb搜索搜索模型模型代码成代码成模型模型图图模型模型.对客服务业务领域模型对客服务业务领域模型