杞坚玮-Agent技术在小爱同学中的应用.pdf

《杞坚玮-Agent技术在小爱同学中的应用.pdf》由会员分享，可在线阅读，更多相关《杞坚玮-Agent技术在小爱同学中的应用.pdf（32页珍藏版）》请在三个皮匠报告上搜索。

1、AgentAgent技术在小爱同学中的应用技术在小爱同学中的应用演讲人：杞坚玮小米 小爱高级算法工程师CONTENTS目 录01智能语音助手的变革02Agent技术在小爱中的成功实践03未来优化方向智能语音助手的变革智能语音助手的变革智能语音助手的核心链路智能语音助手的核心链路理解意图分类与实体识别执行满足话术与功能调用决策任务拆解与接口选择AgentAgent技术为语音助手带来新机遇技术为语音助手带来新机遇架构大幅精简多层分类架构，简化为一个模型80余个垂域，简化为10个垂直Agent策略大幅精简去除大量文法、规则、模板由人力驱动转向数据驱动AgentAgent技术在小爱中的成功实践技术在小

2、爱中的成功实践AgentAgent技术应用在语音助手的若干挑战技术应用在语音助手的若干挑战如何在语义理解中发挥Agent Planning传统语义理解是判别任务，如何与生成任务结合如何让Agent在交互中不断优化语音助手庞大的用户体量是Agent优化的宝贵财富如何让Agent掌握各类功能使用方式上百个一方/三方API，如何保证产品质量如何保证Agent在运行中的响应速度提升效果的同时需要保持良好的产品体验语义理解与语义理解与PlanningPlanning能力的结合能力的结合“今天北京的天气”Domain：WeatherIntent：SearchActionSlots：City:北京,Date

3、:今天传统语义表示：不适合作为Agent的理解方式依靠人工预设、枚举的空间有限分类任务中类别预先定义，无法囊括长尾需求意图槽位范式无法发挥Agent规划潜力无法支持复杂嵌套的逻辑关系语义理解与语义理解与PlanningPlanning能力的结合能力的结合代码式语义表示：与人类语言相当的表示能力发挥LLM在推理规划中的优势基于定义的动作与实体自由组合意图表示发挥LLM在Coding任务的优势根据Instruction输出Code，是LLM的底层能力语义理解与语义理解与PlanningPlanning能力的结合能力的结合语义理解与语义理解与PlanningPlanning能力的结合能力的结合分而治

4、之、协同调度的多agent框架提升提升AgentAgent在垂直场景中的表现在垂直场景中的表现垂直场景中包含多种功能与参数提升提升AgentAgent在垂直场景中的表现在垂直场景中的表现垂直场景的持续预训练在大规模业务数据上的无监督训练补充业务知识、熟悉业务定义高质量精细化微调根据业务需求进行少量微调快速适应不同场景业务需求LLM优化范式：数据是关键提升提升AgentAgent在垂直场景中的表现在垂直场景中的表现提升提升AgentAgent在垂直场景中的表现在垂直场景中的表现持续预训练可显著提升模型效果提升提升AgentAgent在垂直场景中的表现在垂直场景中的表现分阶段微调：从易到难逐步学习

5、头部表达学习定义+长尾表达增强泛化手机还有多少电这个电量还够用吗电量低了记得打开省电模式AgentAgent在与用户交互中成长在与用户交互中成长语音助手场景中的环境反馈AgentAgent在与用户交互中成长在与用户交互中成长基于反馈迭代的强化学习链路AgentAgent在与用户交互中成长在与用户交互中成长显著改善意向性、歧义性问题意向性：理解用户主观感受而非直述指令手机这么卡是不是后台程序太多了、玻璃雾气有点重实体消歧：结合Context推断单个实体含义知否知否、播放西游记提升提升AgentAgent服务响应速度服务响应速度LLM的性能问题限制其应用规模提升提升AgentAgent服务响应速度

6、服务响应速度通过压缩Prompt来减少输入序列长度Ref:Mu J,Li X,Goodman N.Learning to compress prompts with gist tokensJ.Advances in Neural Information Processing Systems,2024,36.提升提升AgentAgent服务响应速度服务响应速度业务定制投机采样，减少解码步骤提升提升AgentAgent服务响应速度服务响应速度模型量化降低IO开销AgentAgent视角下的语音助手升级视角下的语音助手升