蒋林泉-AICon主题演讲-250821.pdf

1、演讲人：蒋林泉相对过剩严重不足数字人全面上岗，大幅拓展服务带宽，缩短响应时间，提升业务效果xx HC/年服务效率 分钟级 到 秒级-问答准确率 98%-用户渗透率 98.5%-月均留存率 57.8%云智能集团某IT部门某销售部门某职能部门全球人才招聘商机效能中心HR共享服务中心组织人才发展部技术内容全球化技术内容一组数据技术部销售运营部用户增长ReorganizeIdentifyDefineExecute工程-应用与算法R I D E不止于Demo与PR，打造“生产可用”并“拿到有效结果”的企业级大模型应用“以赛促练”，激发组织提效创新“书同文车同轨”，全员AI大模型培训认证联动业务部门的AI

2、应用实战，激发业务创新以赛牵引，推动技术部门与业务部门的深度合作真实需求牵引，实现效率与效果提升实战“大模型业务落地体系”，从业务机会识别到产品定义，再到工程落地100%团队参与的AI提效大赛AI转型理念宣贯，实践出真知以赛促练，用AI替代重复性任务，驱动自身研发提效以身作则，高效的AI先锋技术部门支撑先锋的业务部门大模型 ACA面向非技术员工掌握AI应用理解沟通技能大模型 ACP面向技术员工掌握AI应用开发的使用技能XXXXLanguage若岗位可提炼出“关键任务”，如单任务岗位有效任务总数有效任务总数人均有效任务数人均有效任务数人力成本平均单价人力成本平均单价若岗位不能提炼出“关键任务”，

3、如多任务岗位人力成本平均单价人力成本平均单价人类员工人类员工HCHC提效百分比提效百分比=产品定义运营指标RAGMCP A2ADifySFTGraphRAGPre-trainingPost-trainingAutoGenMulti-AgentMetaGPTFew ShotFine-tuningMulti-modalMoEPrompt EngineeringRLHFAgent工程-应用与算法产品业务目标工程-数据与评测+Agent 模 式翻 译 模 式第一种 翻译模式，称之为“樱桃”，它相对简单，但要保证原来系统的底子“蛋糕胚”足够好。第二种 Agent模式，是一个复杂体系。而对于复杂体系，特别

4、重要的一个事情，就是度量。下面以较复杂的Agent模式为例，讲述整个工程落地的过程-普通人-领域专家相对标准绝对标准归因RAGAS 工作原理原则实操业务知识预处理&索引Markdow化语义分段Meta提取用户意图识别&上下文检索意图识别（拒识、改写）召回（多路召回、粗排）排序（精排、Re-rank）用户意图+上下文 大模型总结Prompt（静态/动态模板）Post-training（SFT、RL）完备，准确的业务知识（from 非结构化数据、结构化数据、API）业务评测&业务bad case全链路归因分析能力15%15%10%60%Optional：黑盒训练主体：白盒RAG&Context E

5、ngineering什么时候该引入模型训练？什么时候要做SFT，什么时候要搞RL？要不要搞Pre-training？一个常被讨论的问题：客户原声ASR被动回答识别话术类型辅助类型识别Query改写小模型复杂度判断小模型主动引导智能外呼知识回答话术质检&标签通话记录质检标签自动识别业务配置任务外呼任务配置自动化话术测试客户原声ASRTTS翻译控制引擎销售 LLME2E NL2SLQ评测-从 NL 到 数据分析 意图满足 全链路业务归因领域业务数据，业务口径治理，常见业务分析流SQL建模【RIDE】Result as a ServiceReorganizeIdentifyDefineExecute工程-应用与算法