黄高攀-大模型在汽车行业的落地实践.pdf

1、大模型在汽车行业的落地实践演讲人：黄高攀阿里云/公共云大模型技术服务高级专家观点声明本次交流的观点仅代表个人在当下的观点个人简介阿里云高级技术专家中科院计算机应用技术博士黄高攀阿里云大模型技术服务高级专家，2012年毕业于中科院自动化所，现负责阿里云汽车能源行业大模型技术服务方向，重点在汽车能源行业开展大模型技术的全流程场景落地服务。在AI/大模型技术服务领域有丰富的场景应用与行业落地经验，先后就职于国网江苏省电力公司、阿里云计算有限公司，为不同部委、制造业、交通运输、汽车行业、电力能源等行业客户提供过AI/大模型技术服务，获得发明专利授权20余项。010102020303目录0 04 4汽车

2、行业大模型应用背景大模型场景的落地经验场景落地案例分享未来展望汽车行业大模型应用背景AI/大模型技术发展20122012年以前：传统年以前：传统AIAI时代时代20232023年至今：大模型时代年至今：大模型时代传统传统AIAI时代时代专家系统和统计学习规则和知识库特征工程深度学习时代深度学习时代2012年：AlexNet突破性效果，深度网络自动学习特征，深度学习元年2017年：Transformer成为主流结构大模型时代大模型时代2023年：ChatGPT发布，AIGC元年，拉开了大模型时代的序幕大语言模型已逐步扩展到视觉、听觉等多种模态2012-20222012-2022：深度学习时代深度

3、学习时代大模型时代：技术驱动业务数据来源：艾瑞咨询,2024.4大模型在存量业务存量业务和增量业务增量业务均有很大的推动作用，2028年大模型产业规模加成30+%大数据大数据大算力大算力大模型大模型汽车行业大模型应用场景图片来源：IDC,2024.9智能座舱智能座舱企业提效企业提效智能驾驶智能驾驶市场营销市场营销智驾模型训推、边缘场景检索等车书问答、路径规划等客户之声、客户意向分析等企业问答、代码生成等场景落地模式：产品+服务计算资源网络资源 存储资源数据管理平台向量数据库关系数据库AI平台LLM多模态模型EmbeddingRerank 代码生成（灵码）公文写作（妙笔）智驾模型训推场景边缘场景

4、检索服务车书问答路径规划客户之声客户意向度分析企业知识问答代码生成大模型落地面临的挑战企业基于大模型技术，在单个业务场景落地后，如何快速无缝地扩展到其他更多的业务场景平台、方案、能力如何复用单场景到多场景企业业务中存在的文本、图像、音频等各种模态的数据如何充分利用如何支持多模态的用户输入，满足实际业务需求多模态数据利用POC验证到生产业务后，如何持续跟踪生产业务效果生产版本动态跟踪的重要性生产业务持续运营大模型落地经验分享多Agent方案：从单场景到综合场景智能座舱智能座舱企业提效企业提效意图识别Agent核心要求识别准确率高时延低领域Agent动态扩展持续效果运营AI工具链：多模态数据应用A

5、I工具链的重要性基于不同的模型，以chain的方式，实现多模态数据的应用结合业务应用需求，实现大模型场景落地最后一公里汽车营销场景的数据应用多模态数据的应用结构化数据文本文档录音文件实时音频LMOps：生产业务持续运营应用观测性能瓶颈、错误和异常版本管理数据、知识库、Prompt、模型、插件等数据回流持续优化和效果提升LMOps：应用可观测智能问答流程编排执行流程每个阶段状态每个阶段延时每个阶段内部详情LMOps：应用可观测智能问答流程编排执行流程每个阶段状态每个阶段延时每个阶段内部详情LMOps：应用可观测智能问答流程编排执行流程每个阶段状态每个阶段延时每个阶段内部详情大模型落地案例分享智驾

6、场景与营销场景某车企-智驾边缘场景检索图片来源：Lincan Li,et al.,Data-Centric Evolution in Autonomous Driving:A Comprehensive Survey of Big Data System,Data Mining,and Closed-Loop Technologies,2024.01关键问题图文方式的边缘场景检索海量图像库的检索精度边缘场景类别的动态扩充场景需求在海量场景图像库中，构建特定边缘场景的训练数据集，以提升智驾模型对各种边缘场景的性能传统方案的挑战落地挑战冷启动冷启动：需要收集