基于知识助手的金融大模型应用实践-曹阳.pdf

《基于知识助手的金融大模型应用实践-曹阳.pdf》由会员分享，可在线阅读，更多相关《基于知识助手的金融大模型应用实践-曹阳.pdf（36页珍藏版）》请在三个皮匠报告上搜索。

1、基于知识引擎的融模型应实践曹阳/中关村科 资深AI产品总监曹阳中关村科金资深 AI 产品总监，拥有超过 10 年的 ToB 产品经验，曾任职于阿里、京东、字节跳动、shopee 等公司，主导多个智能客服产品，对 NLP、智能客服、CRM 相关的技术、产品应用、商业化有着丰富经验。基于知识引擎的融模型应实践模型在融业务场景下应的趋势和挑战模型驱动知识应新范式基于知识助基座的模型融领域应实践2024模型技术的发展态势降本模型小型化技术进入成熟期私有化领域知识训练已经成熟大模型工具链已经成熟开源大模型性能不断进化大模型性能不断进化多行业多场景最佳实践落地大模型厂商全面降价视频大模型超预期发展多模态大

2、模型效果惊艳端侧大模型发展迅猛降低大模型技术门槛基座模型获得成本降低大量最佳实践，直接抄作业GPU需求越来越低运行载体小型化GPT-4O等多模态模型效果值得期待增效营销、运营短视频生成，即将全行业落地私有化基座模型能力无瓶颈大模型训练技术成熟大模型响应速度、上下文长度不断提升大模型赋能金融业务，速度加快大模型提效大模型降本2024年模型应的发展阶段大模型工程化大模型技术成熟度（能力）01 技术专利数量02 技术发展时间03 技术舆论指数大模型对话机器人提示工程文本生成图像行业大模型AI智能体大模型编排工具2023 2024H12024年上半年，经过我们的大量实践与观察，发现大模型场景落地进入爆

3、发阶段，相应工程化技术已进入“准成熟阶段”大模型应用成熟度（场景）厂商服务成熟度（从低至高）营销客服产品研发基础作业信息安全出海业务数据治理知识管理供应链与生产IT系统建设财税管理HR管理智能办公客户需求期望（左低右高）相比2023年，客服、智能办公、知识管理领域，从客户需求与厂商服务成熟度方面来看，进步迅猛融天然是数字，数字化场景需求显著融模型驱动的AIGC可年发展红利当前阶段利利润润2017-2025年年标准通用场景基本覆盖高价值专业场景规模应用2025年年-2030年年2030年年-未来未来技术突破期应用深化期大规模应用期相同任务AI模型训练成本近五年下降200倍未来3-5年进入应用深化

4、阶段应用深化阶段临界点对金融行业的影响和变革 个性化的服务和极致用户体验 高效的价值传递效率 合规安全的决策智能模型在落地过程中的关键挑战vgzzzgzzzz硬件GPUTPU光模块分布计算tensorflowzzzGoogleOpenAIMeta通用大模型金融政务医疗个人助理应用智能家电社交媒体领域大模型megtranpytorch灵活兼容大模型迭代速度快，需根据场景需求，兼容多个厂家/多个版本/多种参数规模的基础大模型。运维自主领域微调将大幅提升基础大模型的特定场景准确度，数据是其中关键。大模型技术前置，企业可自主运维。组合创新领域大模型需具备工具操控能力，与其他能力组件、传统AI小模型形成

5、能力互补、云边端有效分工体系。人机协作新场景下冷启动阶段需以人机协同的方式保障准确度。使用过程中形成模型自迭代的反馈机制。成本经济根据不同场景需求，选择不同参数规模的模型，降低算力资源消耗，平衡响应时延，提升投入产出比。安全可信最大程度避免幻觉问题，提升专业性。注入合法合规与安全隐私能力，遵守内外部规则制定，提升拒绝能力。模型是数字时代的智能基础设施，推动科技平权新范式大大算力算力：单位芯片计算能力单位芯片计算能力提升提升5000倍倍强算法强算法：Transformer算法算法+无监督预训练无监督预训练大数据大数据：全全网可用数据网可用数据Scaling Law（规模法则（规模法则）大模型全面

6、整合“大算力、强算法、大数据”，展现出关键要素优化组合的巨大潜力模型大小、训练数据量、计算资源的规模和比例，影响建模的性能。大模型是人人皆可对话的AI,重塑新型人机生产关系，成为数字生产要素新范式和智能基础设施大大模型验证模型验证科技科技平权平权可行技术栈可行技术栈服务体验服务体验平权平权科技平权强调普适价值科技平权强调普适价值知识知识平权平权决策决策平权平权多元升级智能涌现基于知识引擎的融模型应实践模型在融业务场景下应的趋势和挑战模型驱动知识应新范式基于知识助基座的模型融领域应实践模型的本质：语与世界知识的知识库Transformer 长距离语义关联Scaling Law 海量知识+=参数化