《全国社会媒体处理大会:人大-唐晓彬-bert-int.pptx》由会员分享,可在线阅读,更多相关《全国社会媒体处理大会:人大-唐晓彬-bert-int.pptx(24页珍藏版)》请在三个皮匠报告上搜索。
1、BERT-INT: A BERT-based Interaction Model For Knowledge Graph Alignment,Xiaobin Tang Collaborated with Jing Zhang, Bo Chen, Yang Yang, Hong Chen, Cuiping Li,Motivation of knowledge graph alignment,现实世界中存在着不同的知识图谱, 不同的知识图谱之间往往存在能够互补的信息,将不同的知识图谱对齐能够完善知识图谱,更好地用于下游任务,Knowledge graph alignment,图结构信息,实体属性信
2、息,目的: KG1 + KG2 + 已知实体对 新实体对,关系三元组,属性三元组,Challenge,实体007大战皇家赌场的邻居中没有与之对应的实体,实体英语是Hub节点,有700+个邻居,不同的知识图谱间具有异构性,在结构上和属性上都存在这一问题,Challenge,已有的许多工作是通过聚集邻居节点信息来获得实体表示并用于对齐,由于KG的异构性,这么做容易引入噪音,影响效果,针对不同知识图谱之间的异构性,我们需要更合适的方法,实体 “ 英语 “ 的大量邻居实体,Our Solution,Solution,计算邻居实体两两之间的交互(interaction),以获取实体之间的细粒度匹配,Ne
3、ighbor-view Interactions,Framework,将实体描述/名称/属性/值转换成向量,计算实体对之间不同视角的交互,相似度分数,where,Basic BERT Unit,使用pairwise margin loss 来fine-tune BERT,实体的描述/名称,这里用的是Multilingual BERT,BERT-based Interaction Model,使用不同视角的交互来计算两个实体之间的相似程度,相似度分数,不同视角的相似度特征,Name/description-view interaction,实体的描述/姓名 embedding,捕捉实体描述/姓名之间的相似度特征,假设我们想计算实体, 之间的相似度特征,Neighbor-view interactions,捕捉实体邻居之间的相似度特征,假设我们想计算实体, 之间的相似度特征,Neighbor-