王昊奋-智谱共融：KG+LLM协同.pdf

《王昊奋-智谱共融：KG+LLM协同.pdf》由会员分享，可在线阅读，更多相关《王昊奋-智谱共融：KG+LLM协同.pdf（37页珍藏版）》请在三个皮匠报告上搜索。

1、演讲人：王昊奋 同济大学 特聘研究员智谱共融：智谱共融：KG+LLMKG+LLM协同协同大模型驱动的知识图谱范式重构与演化路径KG+LLM概述KG+LLM的特点与必要性01KG+LLM的深度融合如何结合KG增强LLM推理能力02应用与展望KG+LLM的行业应用与趋势展望03目 录CONTENTSKG+LLM概述KG+LLM的特点与必要性实现数据智能的两种方式数据数据智能智能符号符号知识知识专家专家系统系统数据数据智能智能统计统计模型模型统计统计学习学习 来源多样 形态复杂 治理困难 专家知识隐性，难外化 知识体系庞杂，难表示 受众小、难获取 应用场景复杂 推理链条长、相关因素多 人机交互要求高

2、 依赖海量高质量标注样本 高质量样本缺失是瓶颈 人工样本标注代价大 本质是数据拟合“模式内蕴”的任务易于成功“背景关联”的任务仍有困难 迁移能力仍然有限 泛化能力是关键 分布偏差是困难根源数据转换成符号知识的过程往往伴随着巨大的信息损失数据转换成符号知识的过程往往伴随着巨大的信息损失隐性知识、难以表达的知识是损失信息中的主体隐性知识、难以表达的知识是损失信息中的主体 深度学习的强大的特征提取能力使得深度学习的强大的特征提取能力使得“数数”尽其用尽其用双系统理论启发 双系统理论（Dual Process Theory）认为，人类思维包含两种不同历程：系统1 是快速、直觉、无意识的，负责日常任务和

3、快速决策；系统2 是缓慢、逻辑、有意识的，处理复杂计算和深思熟虑的决策；单一认知方式难以解决问题，双系统的连续交互协作 是实现高级认知能力的关键数据驱动（大语言模型）知识驱动（知识图谱）“数”尽其用可控、可干预、可解释+KG+LLM的必要性优点：先验知识丰富，泛化性强，灵活性高；缺点：推理能力弱，可解释性差，存在幻觉；缓解幻觉细化语言处理能力增强逻辑推理能力缓解固有偏见增强上下文理解能力系统1：直觉式、发散性的快速反应https:/enterprise- 2)模型微调 3)RAG 4)LRM协同 5)知识智能体图谱推理微调图谱知识对齐图谱增强检索Prompt工程图谱增强提示轻量化GraphRA

4、G图谱知识注入模型微调RAGLRM协同知识智能体路径搜索检索链规划行为预测图谱优化工作流个性化GraphRAG算子/实体规划图谱个性化智能体KG-to-Text:将KG重写为高效的文本表述 Retrieve-Rewrite-Answer:A KG-to-Text Enhanced LLMsFramework for Knowledge Graph Question Answering,2023KG-to-Text增强框架（Retrieve-Rewrite-Answer）：在传统检索-回答流程中插入重写模块，将检索到的三元组重写为文本描述，强化大语言模型对结构化知识的理解能力。任务敏感型知识生成

5、：通过答案引导的KG-to-Text机制，动态筛选与问题最相关的三元组，并基于微调后的LLM转化成高效的知识文本，解决知识冗余问题。自迭代语料构建策略：利用LLM对生成文本的逻辑校验能力，自动创建图谱-文本对齐语料，解决KGQA任务中标注数据稀缺问题，实现KG-to-Text模型的闭环训练优化。图谱增强提示KG Structure as Prompt:结合图谱结构Knowledge Graph Structure as Prompt:Improving Small Language Models Capabilities for Knowledge-based Causal Discovery

6、,2024知识结构提示融合：通过将KG拓扑关系编码为提示，注入小规模语言模型的上下文学习范式，实现文本因果推理任务中背景知识与统计先验的协同建模。轻量化因果推理引擎：构建基于多领域数据集的三维评估体系，验证轻量化模型在结构增强提示下的因果发现效能，探索参数效率与知识泛化能力的帕累托最优边界。图谱增强提示KG-to-CoT:结合图推理模型生成推理链逐步图推理机制：通过图推理模型，在KG中实现多跳路径遍历与高置信度实体定位，为LLMs注入可解释的知识链推理路径追溯生成：基于问题实体逆向解析图推理过程，通过转移矩阵回溯生成结构化推理路径，弥合LLMs与知识库的认知鸿沟，支持两者的协同推理能力。KG-