vivo 一站式 AI 智能体构建平台演进实践-张硕.pdf

1、vivo一站式AI智能体平台的演进实践vivo互联网产品平台架构团队负责人/张硕行业PPT模板http:/ B行业PPT模板http:/ 系统间集成通信、数据管理、非结构化文本解析、测试度量、运营管理等等能力如何解决？l不舒适区：不舒适区：整体技术生态处于发展早期，发展早期，不确定性高，有较高试错成本，需要大量不确定性高，有较高试错成本，需要大量的学习探的学习探索。如何高效带领团队达成目标？l资源依赖：资源依赖：算力日渐昂贵，使用量级增长还要不停追加算力投入。ROIROI如何保障？如何保障？l业务应用：业务应用：对生成式人工智能的期望过高，有需求但是不知道如何高ROI应用。如如何助力各个业务创

2、造可量化的价值？何助力各个业务创造可量化的价值？把一类诉求抽象归纳、系统化，满足一系列需求，并持续沉淀为资产，能够对各部门、对公司持续提供稳定服务。平台化演进降低技术难度、减少沟通成本、屏蔽使用复杂度，配套较完备的在线业务使用能力。一站式开箱即用基于平台构建各个方向垂类bots应用，管理数据集，并对这些应用进行迭代运营垂类私域数据挑战为什么为什么?“照我做的做”效果会好于“照我说的做”才能领跑赋能，带团队指明方向、解决难题、带团队指明方向、解决难题、扫除障碍，承担使命与压力扫除障碍，承担使命与压力，最终拿到结果。面对挑战，求责于己，身教胜于言传及时反馈，及时say YesNO团队避免务虚，聚焦

3、创造价值本身。增效降本思考思考&学习学习明确方向竞品调研roadmap大量学习大量学习（60+60+论文、论文、国内外竞品分析、国内外竞品分析、开源技术方案开源技术方案）功能点检、体验交互复杂测试方案体验体验&测试测试核心方案技术评审疑难攻关技术实现技术实现业务落地接入交流合作接入接入&合作合作蓝心九问蓝心九问创造性、突破式场景，躬身入局、以身作则是务实领导力的关键公司我做了什么我做了什么？领跑，深入关键环节，决策才能及时、有效新的起点，如何带领团队高效学习，敏捷落地？技术方案technicaltechnicaltechnicaltechnicalT T行业PPT模板http:/ or Ret

4、rieval?Comparing Knowledge Injection in LLMs https:/arxiv.org/abs/2312.05934RAG VS FINE-TUNING:PIPELINES,TRADEOFFS,AND A CASE STUDY ON AGRICULTURE https:/arxiv.org/pdf/2401.08406技术选择 RAG vs SFT？类别RAGRAGSFTSFT外部知识源改变模型行为减少幻觉训练数据集动态数据更新可解释性以RAG为主的技术路线RAGRAG的演进的演进 N Naiveaive RAGRAGRetrieval-Augmented

5、Generation for Large Language Models:A Survey https:/arxiv.org/abs/2312.10997幻觉明显减少，回答更加可靠为不同领域提供专业的知识支持，保证信息的及时性、有效性可解释，可追溯问题并迭代改善安全性和隐私管理方面，实现了数据的权限控制、安全管理等NaiveNaive RAGRAG 荆棘丛生荆棘丛生040302011、Unstructured IO 2、表格+图片解析 3、语意+规则 Chunk1、混合检索（Sparse+Dense）2、Auto Merge Retrieval 3、Query transformation（R

6、ewrite）Retrieval准确率提升1、RAG Evaluation 2、Retrieval 过程可视化1、图文并茂输出 2、参考文档来源展示 3、幻觉控制RAGRAG的演进的演进 AdvancedAdvanced RAGRAG Fine-grained Data Clean Query Transfmation HyDE Q2Q、Q2P Hybrid Search+Rerank Small2BigRAGRAG的演进的演进 AdvancedAdvanced RAGRAGFine-grained Data CleanUnStructured DataQuery TransfmationHy