张红兵-从数据到知识：Data Centric 范式大模型落地实践.pdf

1、从数据到知识：Data-Centric范式大模型落地实践演讲人：张红兵枫清科技(Fabarta)/AI负责人01010202030304040505目录大模型落地现状和痛点Data-Centric落地范式介绍如何使用Data-Centric助力大模型落地Data-Centric范式案例分享总结与展望大模型落地现状与痛点热度热度时间时间线线2022.112022.112023.6 2023.6 2023.122023.122024.62024.62024.122024.12模型发布趋势企业落地情况OpenAI发布ChatGPT企业观望为主逐步开始尝试各公司发布大模型GPT4-01发布国资委人工智

2、能专题推进会企业加速落地大模型与应用落地发展趋势大模型持续发布但频率降低认知阶段认知阶段探索阶段探索阶段建设阶段建设阶段成熟阶段成熟阶段对模型认知有限，跟进发展中选取特定数据和场景，进行探索验证如何共同推进如何共同推进痛点：对大模型可能有过高期望或者过低期望痛点：对大模型可能有过高期望或者过低期望应对：大模型知识普及，对齐理解应对：大模型知识普及，对齐理解痛点：遇到落地问题，场景选择难，落地效果痛点：遇到落地问题，场景选择难，落地效果差差应对：梳理企业数据，使用成熟落地工具，助力场景验证应对：梳理企业数据，使用成熟落地工具，助力场景验证平台建设（可选），选取应用场景，进行实际落地使用AI+企业

3、数据助力智能决策痛点：构建平台的痛点：构建平台的选型；选择实际场景应用，衡量业务价值选型；选择实际场景应用，衡量业务价值应对：梳理业务场景，助力降本增效应对：梳理业务场景，助力降本增效痛点：场景痛点：场景+AI+AI深入结合，推动智能决策深入结合，推动智能决策应对：深入理解业务，使用智能体串联企业数据、大模型模型，助力企业决策应对：深入理解业务，使用智能体串联企业数据、大模型模型，助力企业决策大大模模型型落落地地认认知知与与实实践践领先领先应用应用评估评估关注关注如何与企业共同推进大模型落地如何做合理的技术选型？对大模型的要求是不是只要大模型就够了需要大模型做微调构建行业大模型各类场景分别选用

4、什么样的大模型合适落地方法使用各种RAG技术做落地，还是需要融入图技术问数应该是Text2SQL，还是Text2指标?目标用户是谁，有什么痛点？应该如何找场景？需要哪些人参与如何找到高价值场景业务成熟度如何？是否高频、重复、标准数据情况如何？已有数据，持续迭代情况？技术成熟度是否可以支持场景实现？企业大模型场景落地的关注点和痛点如何统一规划整体架构？目标统一规划还是各自尝试服务于哪些业务目标大模型商用还是开源本地还是云端算力租用还是自建算力需求多大数据安全性考量总体多少预算如何做到结果可信如何减少幻觉如何保证结果可解释如何做到效果好为什么换一份数据效果不好表格、图片效果如何简单问题可以处理，复

5、杂问题回答不了可以做混合问答么，问答和问数融合在一起如何保证数据安全性数据权限选型：选型：技术路线怎么技术路线怎么选？选？规划：前期如何规划？规划：前期如何规划？落地：如何有好的效果？落地：如何有好的效果？场景：如何选定高价值场景？场景：如何选定高价值场景？应用场景驱动应用场景驱动 +智能平台与工具智能平台与工具 +行业大模型与优质数据行业大模型与优质数据业务应用智能研发智能销售智能运维智能采购业务应用智慧运营驾驶舱智慧安全合规 企业知识中台企业知识中台多场景支持多场景支持开发平台开发平台 统一纳管统一纳管开源商用开源商用 灵活选择灵活选择租算并举租算并举 统一调度统一调度智能体平台数据基础设

6、施（图和向量）应用支撑中心应用支撑中心（枫清科技关注点）（枫清科技关注点）大模型运维平台模型工厂（多模型管理，大模型，小模型等）基础设施（智算中心）行业数据集行业数据集数据集A数据集N数据数据（企业数据、外部（企业数据、外部数据）数据）知识引擎 (知识构建、应用与运营）规划：企业大模型落地参考架构Data-Centric范式https:/arxiv.org/abs/2301.04819Model-Centric:核心是关注模型，通过调整模型架构以及参数提升效果Data-Centric from Andrew NGData-Centric vs Model-CentricWhen a syste