2-马金龙.pdf

1、演讲人：马金龙01020304智能客服场景及挑战介绍开天客服大模型研发之路应用探索及未来展望知识图谱与LLM结合优化01智能客服场景及挑战介绍AIH5APPagentagentagentagentagentRAG+1+2NLP+NLP34多模态知识导入用户提问文本嵌入匹配相似度最高的片段生成提示词AI智能客服问题文本嵌入向量A I解答相 似匹 配问 题 与 知识 组 合上下文补全逻辑推理解析实体关系抽取向量数据库图数据库数据ETL多模态解析数据提取知识预处理关系抽取图谱构建实体抽取建立索引文本向量化知识向量化实 体 关 系扩 展 查 询关 联 问 题 解决 方 案 整 合AI问答知识库构建1、

2、有知识可解答-答案和知识来源2、意图模糊-追问澄清意图3、无知识-转人工/留言/兜底7 2495%+70%“”98%95%31&RAG&02开天客服大模型研发之路7 24“”AILLMDecoder-only Transformers+PromptAPIchatgmldeepseekClaude01020304pipelinepipeline收集问答&客服数据集整合问答对知识类普通数据集可SFT训练数据集高质量训练样本规则过滤清洗机器弱标人工精标数据预处理1.数据采集2.数据预处理3.数据弱标注4.数据精标注5.数据质检sftrlhfsftrlhfGRPOGRPOA.奖励模型打分B.事实错误惩

3、罚C.不确定性惩罚D.政策引用不当惩罚（未提及政策名称）E.格式规范性惩罚RewardRewardReward=(RewardModel1*1+RewardModel2*2+.)+FactualPenalty*+UncertaintyPenalty*+PolicyPenalty*+FormatPenalty*按照重要程度，奖励模型事实错误惩罚不确定性惩罚政策引用不当惩罚格式惩罚，根据优先级调整、及 。客服能力测评通用能力通用知识能力测评价值观和安全能力测评客服专项能力语义理解意图识别逻辑推理问题改写智能问答政策解读92.1480.4793.4589.6575.25880102030405060708090100闭源API开源模型自研模型客服能力测评政策问答集1政策问答集2https:/ 关系索引）极高（需本体设计、多模块联合训练）资源消耗高（需支持）低（支持边缘设备）极高（依赖多模型联合计算）实时性较慢（依赖图遍历）快（双级检索优化）中等（逻辑表达式转换耗时）增量更新能力弱（需重建图谱）强（支持动态增量更新）弱（需重新对齐语义）政务场景适配性中（适合复杂政策关联分析）高（轻量、快速响应、易维护）低（复杂度高、低）()()()https:/