基于 LLMOps 的车损互助行业 AI 应用实践-张源源.pdf

1、基于基于 LLMOps 的车损的车损 互助行业互助行业 AI 应用实践应用实践百姓车联/张源源 2021 DP Technology All Rights ReservedOutline1.LLMOps 背景介绍背景介绍1.MLOps 是什么？是什么？2.LLMOps 是什么？是什么？2.车损互助业务介绍车损互助业务介绍1.车损互助业务介绍车损互助业务介绍3.LLM 落地实践介绍落地实践介绍1.概览概览2.准入报价准入报价3.理赔定损理赔定损4.日常运营日常运营5.内部提效内部提效4.LLMOps 个人思考个人思考1.降低门槛降低门槛2.提高可集成性提高可集成性3.提高可观测性提高可观测性4.

2、提升效果提升效果&效率效率基于 LLMOps 的车损互助行业 AI 应用实践May 16,20243 38张源源MLOps 是什么？是什么？基于 LLMOps 的车损互助行业 AI 应用实践May 16,20244 38张源源MLOps 是什么？是什么？基于 LLMOps 的车损互助行业 AI 应用实践May 16,20245 38张源源LLMOps 是什么？是什么？基于 LLMOps 的车损互助行业 AI 应用实践May 16,20246 38张源源LLMOps 是什么？是什么？基于 LLMOps 的车损互助行业 AI 应用实践May 16,20247 38张源源LLMOps 是什么？是什么

3、？基于 LLMOps 的车损互助行业 AI 应用实践May 16,20248 38张源源MLOps vs LLMOpsMLOpsLLMOps覆盖流程开发模型和模型应用是等价的,模型上线等于模型应用上线。开发 LLM 和模型应用是分离的,且在技术栈上迥异。目标人群算法工作人员开发模型同 MLOps模型应用增加无代码人群和业务开发产品形态SDK/Library/API 等易于已有技术栈集成的方式为主开发模型同 MLOps模型应用增加无代码基于开发 LLM 和后续的模型应用是分离的事实,LLMOps=开发模型 LLMOps+模型应用 LLMOps。开发模型类 LLMOps 往往有另外一个名字 AI

4、infra,更多关注大模型训练过程的效率、效果等问题。模型应用类 LLMOps 更关注有了 LLM 之后,如何开发 LLM 应用。基于 LLMOps 的车损互助行业 AI 应用实践May 16,20249 38张源源Outline1.LLMOps 背景介绍背景介绍1.MLOps 是什么？是什么？2.LLMOps 是什么？是什么？2.车损互助业务介绍车损互助业务介绍1.车损互助业务介绍车损互助业务介绍3.LLM 落地实践介绍落地实践介绍1.概览概览2.准入报价准入报价3.理赔定损理赔定损4.日常运营日常运营5.内部提效内部提效4.LLMOps 个人思考个人思考1.降低门槛降低门槛2.提高可集成性

5、提高可集成性3.提高可观测性提高可观测性4.提升效果提升效果&效率效率基于 LLMOps 的车损互助行业 AI 应用实践May 16,20241038张源源车损互助业务介车损互助业务介绍绍基于 LLMOps 的车损互助行业 AI 应用实践May 16,202410 38张源源车损互助业务介车损互助业务介绍绍基于 LLMOps 的车损互助行业 AI 应用实践May 16,202411 38张源源Outline1.LLMOps 背景介绍背景介绍1.MLOps 是什么？是什么？2.LLMOps 是什么？是什么？2.车损互助业务介绍车损互助业务介绍1.车损互助业务介绍车损互助业务介绍3.LLM 落地实

6、践介绍落地实践介绍1.概览概览2.准入报价准入报价3.理赔定损理赔定损4.日常运营日常运营5.内部提效内部提效4.LLMOps 个人思考个人思考1.降低门槛降低门槛2.提高可集成性提高可集成性3.提高可观测性提高可观测性4.提升效果提升效果&效率效率基于 LLMOps 的车损互助行业 AI 应用实践May 16,202412 38张源源概览概览基于 LLMOps 的车损互助行业 AI 应用实践May 16,202413 38张源源准入报价准入报价背景介绍基于 LLMOps 的车损互助行业 AI 应用实践May 16,202414 38张源源准入报价准入报价精算模型介绍基于 LLMOps 的车损