大语言模型与知识图谱.pdf

1、DataFunSummitDataFunSummit#20242024大语言模型与知识图谱大语言模型与知识图谱机会与挑战机会与挑战张文 浙江大学 特聘研究员https:/drops.dagstuhl.de/storage/08tgdk/tgdk-vol001/tgdk-vol001-issue001/TGDK.1.1.2/TGDK.1.1.2.pdf DataFunSummitDataFunSummit#20242024 从知识表示的角度看从知识表示的角度看KG+LLMKG+LLM知识表示 知识表示知识表示 Knowledge Representationtext1960sELIZA2000s

2、RDF/OWL2010sKG2020sLLM知识表示 知识表示知识表示 Knowledge Representation 显式知识显式知识 (Explicit Knowledge)非结构化知识（文本、图片、视频等）结构化知识（编码了逻辑信息的，知识图谱、数据库等）长期共识：并不是所有的知识都适合显示化表示text1960sELIZA2000sRDF/OWL2010sKG2020sLLM知识表示 知识表示知识表示 Knowledge Representation 显式知识显式知识 (Explicit Knowledge)非结构化知识（文本、图片、视频等）结构化知识（编码了逻辑信息的，知识图谱、数

3、据库等）长期共识：并不是所有的知识都适合显示化表示 参数化知识参数化知识（Parametric Knowledge）并不是所有的参数化知识都能被转化为显式知识判断句子的情感极性谁是登上月球的第一人 text1960sELIZA2000sRDF/OWL2010sKG2020sLLM知识表示 知识表示知识表示 Knowledge Representation 显式知识显式知识 (Explicit Knowledge)非结构化知识（文本、图片、视频等）结构化知识（编码了逻辑信息的，知识图谱、数据库等）长期共识：并不是所有的知识都适合显示化表示 参数化知识参数化知识（Parametric Knowle

4、dge）并不是所有的参数化知识都能被转化为显式知识判断句子的情感极性谁是登上月球的第一人 显示的知识表示方法 -参数化的知识表示方法 -混合的知识表示方法 （知识图谱）（大语言模型）（知识图谱+大语言模型）text1960sELIZA2000sRDF/OWL2010sKG2020sLLM知识表示 知识表示知识表示 Knowledge Representation 显式知识显式知识 (Explicit Knowledge)非结构化知识（文本、图片、视频等）结构化知识（编码了逻辑信息的，知识图谱、数据库等）长期共识：并不是所有的知识都适合显示化表示 参数化知识参数化知识（Parametric Kn

5、owledge）并不是所有的参数化知识都能被转化为显式知识判断句子的情感极性谁是登上月球的第一人 显示的知识表示方法 -参数化的知识表示方法 -混合的知识表示方法 （知识图谱）（大语言模型）（知识图谱+大语言模型）text1960sELIZA2000sRDF/OWL2010sKG2020sLLM问：图书馆馆长的孩子中最问：图书馆馆长的孩子中最出名的是谁？出名的是谁？让我们一起看看一些辩题让我们一起看看一些辩题 知识表示和推理（显式知识表示和推理（显式 oror 隐式隐式）：语言模型中知识的学习依赖的是统计模式，并不是真正的理解和推理。LLM缺乏显式的知识存储，会产生高概率但错误的回答 LLM是

6、否能够具有directional entailment的能力,推理概念包含关系？知识图谱构建成本高 LLM训练成本也很高 但是LLM可用性很强，让AI从幕后到台前 总结：准确率V.S.召回率 之间的均衡让我们一起看看一些辩题 知识表示和推理（显式知识表示和推理（显式 oror 隐式隐式）：语言模型中知识的学习依赖的是统计模式，并不是真正的理解和推理。LLM缺乏显式的知识存储，会产生高概率但错误的回答 LLM是否能够具有directional entailment的能力,推理概念包含关系？知识图谱构建成本高 LLM训练成本也很高 但是LLM可用性很强，让AI从幕后到台前 总结：准确率V.S.召回