《利用 LLM 改善研发过程里答疑体验-段潇涵.pdf》由会员分享,可在线阅读,更多相关《利用 LLM 改善研发过程里答疑体验-段潇涵.pdf(34页珍藏版)》请在三个皮匠报告上搜索。
1、利 LLM 改善研发过程的答疑体验段潇涵我介绍字节跳动研发程师,负责 Node.js 基础程向,主要致于建设 Node.js 相关基建:公司级框架、适配公司基础设施的基础库、私有 NPM 仓储等。同时致于语模型在研发程落地的实践,构建 AI 知识体系,为研发领域提供 AI 相关基础能。段潇涵录AI 落地切点基础概念&建设思路企业内落地演进谈论到 AI切点:研发答疑机器答疑现状值班等待提问的户答疑场景天适合利 LLM 进智能化改造,可以引 LLM 升级智能客服利 LLM 建设智能客服怎么做建设思路利 LLM 建设智能客服:RAG 思路利 LLM 建设智能客服:FineTuning 思路RAG v
2、s.FineTuning企业内落地演进第零步:demo这看起来没什么新鲜的?这仅仅是个起步,绝不是终态,起步是我们去落地 AI 必不可少的步。第零步:demo户视开发者视第步:做好现有内容的消费第步:做好现有内容的消费内容切割案案:固定 Token 度切割案:段落切割案三:滑动窗切割案四:上下关联、结构补全式切割案四:上下关联、结构补全式切割第步:做好现有内容的消费产品形态:内容管理后台第步:做好现有内容的消费第步:做好现有内容的消费功能完善第步:加强检索第三步:优化模型第四步:优化对话流程最后公:问答闭环&数据轮最后公:问答闭环&数据轮产品形态:会话管理后台第四步:优化对话流程最后公:问答闭环&数据轮Q&A