论文摘要:知识图谱嵌入是一种将符号实体和关系投影到连续向量空间的方法,越来越受到人们的重视。以前的方法允许对每个实体或关系进行单一的静态嵌入,忽略它们的内在上下文性质,即。,实体和关系可能出现在不同的图上下文中,因此,它们具有不同的属性。该工作提出了一种新的基于上下文的知识图谱嵌入(CoKE)范式,该范式考虑了这种上下文性质,并学习了动态的、灵活的、完全上下文化的实体和关系嵌入。研究了两类图的上下文:边和路径,它们都被表示为实体和关系的序列。CoKE采用一个序列作为输入,并使用Transformer编码器获得上下文化的表示。因此,这些表现形式自然地适应输入,捕捉实体的上下文含义和其中的关系。通过对各种公共基准的评估,验证了CoKE在链路预测和路径查询应答方面的优越性。在几乎所有情况下,它的性能始终比当前的技术水平更好,或者至少与之相当,特别是在H@10的路径查询应答方面提高了19.7%。

代码链接:[https://github.com/paddlepaddle/models /tree/develop/PaddleKG/CoKE](https://github.com/paddlepaddle/models /tree/develop/PaddleKG/CoKE)

成为VIP会员查看完整内容
0
50

相关内容

中国互联网公司之一,占有中国搜索引擎市场五成以上的份额。旗下有贴吧、知道、百科、文库等产品。 详细资料: 百度 本话题适用于百度公司及其产品的讨论。

题目: Multi-view Knowledge Graph Embedding for Entity Alignment

摘要: 我们研究了知识图谱之间基于嵌入的实体对齐问题。之前的研究主要集中在实体的关系结构上。有些还进一步合并了另一种类型的特性,比如属性,以进行细化。然而,大量的实体特征尚未被探索或没有被平等地放在一起处理,这损害了基于嵌入的实体对齐的准确性和鲁棒性。在本文中,我们提出了一个新的框架,统一实体的多个视图来学习嵌入来实现实体对齐。具体来说,我们根据实体名称、关系和属性的视图嵌入实体,并使用几种组合策略。此外,我们设计了一些跨KG推理方法来增强两个KG之间的对齐。我们在真实数据集上的实验表明,所提出的框架显著优于目前最先进的基于嵌入的实体对齐方法。所选择的视图、跨KG推理和组合策略都有助于性能的提高。

成为VIP会员查看完整内容
0
27

题目: Contextualized Graph Attention Network for Recommendation with Item Knowledge Graph

摘要: 近年来,图神经网络(GNN)被应用于知识图谱(KG)的开发。现有的基于GNN的方法在KG中对实体与其本地图上下文之间的依赖关系进行了建模。,但可能无法有效地捕获其非局部图上下文(例如,它的一阶邻居的集合),最相关的高阶邻居集)。在本文中,我们提出了一个新的推荐框架——上下文化的图注意网络(CGAT),它可以显式地利用KG中实体的局部和非局部图上下文信息。特别地,CGAT通过用户特定的图形注意机制捕获本地上下文信息,考虑用户对实体的个性化偏好。此外,CGAT采用了一个有偏随机游走采样过程来提取一个实体的非局部上下文,并利用递归神经网络(RNN)来建模实体与其非局部上下文实体之间的依赖关系。为了捕捉用户对物品的个性化偏好,本文还建立了物品特定注意机制,以模拟目标物品与从用户历史行为中提取的上下文物品之间的依赖关系。在真实数据集上的实验结果验证了CGAT的有效性,并与最新的基于KG的推荐方法进行了比较。

成为VIP会员查看完整内容
0
55

题目: KG-BERT: BERT for Knowledge Graph Completion

摘要: 知识图谱是许多人工智能任务的重要资源,但往往是不完整的。在这项工作中,我们使用预训练的语言模型来对知识图谱进行补全。我们将知识图谱中的三元组视为文本序列,并提出了一种新的框架结构——知识图谱双向编码方向转换器(KG-BERT)来对这些三元组进行建模。该方法以一个三元组的实体描述和关系描述作为输入,利用KG-BERT语言模型计算三元组的评分函数。在多个基准知识图谱上的实验结果表明,我们的方法在三元组分类、链接预测和关系预测任务上都能达到最新的性能。

成为VIP会员查看完整内容
0
89

有关实体及其关系的真实世界事实的知识库是各种自然语言处理任务的有用资源。然而,由于知识库通常是不完整的,因此能够执行知识库补全或链接预测是很有用的。本文全面概述了用于知识库完成的实体和关系的嵌入模型,总结了标准基准数据集上最新的实验结果。

成为VIP会员查看完整内容
0
60

题目: Learning Attention-based Embeddings for Relation Prediction in Knowledge Graphs

摘要: 近年来随着知识图谱(KGs)的大量涌现,加上实体间缺失关系(链接)的不完全或部分信息,催生了大量关于知识库补全(也称为关系预测)的研究。最近的一些研究表明,基于卷积神经网络(CNN)的模型能够生成更丰富、更有表现力的特征嵌入,因此在关系预测方面也有很好的表现。然而,我们观察到这些KG嵌入独立地处理三元组,因此不能捕获到三元组周围的复杂和隐藏的信息。为此,本文提出了一种新的基于注意的特征嵌入方法,该方法能同时捕获任意给定实体邻域内的实体特征和关系特征。此外,我们还在模型中封装了关系集群和多跳关系。我们的实验研究为我们基于注意力的模型的有效性提供了深入的见解,并且与所有数据集上的最先进的方法相比,有显著的性能提升。

成为VIP会员查看完整内容
0
76

【导读】2020 年 2 月 7 日-2 月 12 日,AAAI 2020 在美国纽约举办。Michael Galkin撰写了AAAI2020知识图谱论文相关研究趋势包括:KG-Augmented语言模型,异构KGs中的实体匹配,KG完成和链路预测,基于kg的会话人工智能和问题回答,包括论文,值得查看!

Hiroaki Hayashi, Zecong Hu, Chenyan Xiong, Graham Neubig: Latent Relation Language Models. AAAI 2020

  • 潜在关系语言模型:本文提出了一种潜在关系语言模型(LRLMs),这是一类通过知识图谱关系对文档中词语的联合分布及其所包含的实体进行参数化的语言模型。该模型具有许多吸引人的特性:它不仅提高了语言建模性能,而且能够通过关系标注给定文本的实体跨度的后验概率。实验证明了基于单词的基线语言模型和先前合并知识图谱信息的方法的经验改进。定性分析进一步证明了该模型的学习能力,以预测适当的关系在上下文中。

成为VIP会员查看完整内容
0
122

论文题目: Knowledge Graph Alignment Network with Gated Multi-hop Neighborhood Aggregation

论文摘要

图神经网络由于具有识别同构子图的能力,已经成为一种强大的基于嵌入的实体对齐范式。然而,在真实知识图(KGs)中,通常是对应的实体 具有非同构的邻域结构,这很容易导致GNN产生不同的表示。为了解决这一问题,我们提出了一种新的KG对齐网络,即AliNet,旨在以端到端方式缓解邻域结构的非同构性。由于模式异构性,对等实体的直接邻域通常是不相似的,AliNet引入了远程邻域来扩展它们的邻域结构之间的重叠。它采用了一种注意机制,以突出有益的遥远的邻域和减少噪音。然后,利用门控机制控制直接和远处邻域信息的聚合。我们进一步提出了一个关系损失来细化实体表示。我们进行了深入的实验,详细的研究和分析的五个实体对齐数据集,证明了AliNet的有效性。

论文作者

孙泽群是南京大学计算机科学与技术系在读博士,目前在南京大学软件新技术国家重点实验室,博士导师为胡伟副教授。

胡伟,博士,南京大学计算机科学与技术系副教授,博士生导师。2005年、2009年分别于东南大学计算机科学与工程学院获学士、博士学位。2009年12月加入南京大学工作至今。研究领域为知识挖掘,数据集成,智能软件。

论文下载链接https://arxiv.org/pdf/1911.08936.pdf

成为VIP会员查看完整内容
0
44

Knowledge graph embedding, which projects symbolic entities and relations into continuous vector spaces, is gaining increasing attention. Previous methods allow a single static embedding for each entity or relation, ignoring their intrinsic contextual nature, i.e., entities and relations may appear in different graph contexts, and accordingly, exhibit different properties. This work presents Contextualized Knowledge Graph Embedding (CoKE), a novel paradigm that takes into account such contextual nature, and learns dynamic, flexible, and fully contextualized entity and relation embeddings. Two types of graph contexts are studied: edges and paths, both formulated as sequences of entities and relations. CoKE takes a sequence as input and uses a Transformer encoder to obtain contextualized representations. These representations are hence naturally adaptive to the input, capturing contextual meanings of entities and relations therein. Evaluation on a wide variety of public benchmarks verifies the superiority of CoKE in link prediction and path query answering. It performs consistently better than, or at least equally well as current state-of-the-art in almost every case, in particular offering an absolute improvement of 19.7% in H@10 on path query answering. Our code is available at \url{https://github.com/paddlepaddle/models/tree/develop/PaddleKG/CoKE}.

0
6
下载
预览
小贴士
相关VIP内容
专知会员服务
64+阅读 · 2020年3月25日
【AAAI2020知识图谱论文概述】Knowledge Graphs @ AAAI 2020
专知会员服务
87+阅读 · 2020年2月13日
专知会员服务
122+阅读 · 2020年2月13日
相关资讯
17篇必看[知识图谱Knowledge Graphs] 论文@AAAI2020
【论文笔记】基于BERT的知识图谱补全
专知
96+阅读 · 2019年9月15日
【清华大学】元知识图谱推理
专知
88+阅读 · 2019年9月2日
知识图谱嵌入(KGE):方法和应用的综述
AI科技评论
39+阅读 · 2019年8月26日
学习开发知识图谱中的长期关系依赖
人工智能前沿讲习班
6+阅读 · 2019年6月10日
论文浅尝 | 基于深度序列模型的知识图谱补全
开放知识图谱
26+阅读 · 2019年5月19日
图嵌入(Graph embedding)综述
人工智能前沿讲习班
337+阅读 · 2019年4月30日
相关论文
Orthogonal Relation Transforms with Graph Context Modeling for Knowledge Graph Embedding
Yun Tang,Jing Huang,Guangtao Wang,Xiaodong He,Bowen Zhou
7+阅读 · 2020年4月9日
Aidan Hogan,Eva Blomqvist,Michael Cochez,Claudia d'Amato,Gerard de Melo,Claudio Gutierrez,José Emilio Labra Gayo,Sabrina Kirrane,Sebastian Neumaier,Axel Polleres,Roberto Navigli,Axel-Cyrille Ngonga Ngomo,Sabbir M. Rashid,Anisa Rula,Lukas Schmelzeisen,Juan Sequeda,Steffen Staab,Antoine Zimmermann
79+阅读 · 2020年3月4日
Chuxu Zhang,Huaxiu Yao,Chao Huang,Meng Jiang,Zhenhui Li,Nitesh V. Chawla
11+阅读 · 2019年11月26日
Quan Wang,Pingping Huang,Haifeng Wang,Songtai Dai,Wenbin Jiang,Jing Liu,Yajuan Lyu,Yong Zhu,Hua Wu
6+阅读 · 2019年11月6日
Representation Learning with Ordered Relation Paths for Knowledge Graph Completion
Yao Zhu,Hongzhi Liu,Zhonghai Wu,Yang Song,Tao Zhang
6+阅读 · 2019年9月26日
Malte Ostendorff,Peter Bourgonje,Maria Berger,Julian Moreno-Schneider,Georg Rehm,Bela Gipp
5+阅读 · 2019年9月18日
Domain Representation for Knowledge Graph Embedding
Cunxiang Wang,Feiliang Ren,Zhichao Lin,Chenxv Zhao,Tian Xie,Yue Zhang
9+阅读 · 2019年9月11日
Liang Yao,Chengsheng Mao,Yuan Luo
8+阅读 · 2019年9月11日
Haoyu Wang,Vivek Kulkarni,William Yang Wang
5+阅读 · 2018年10月31日
Armand Joulin,Edouard Grave,Piotr Bojanowski,Maximilian Nickel,Tomas Mikolov
3+阅读 · 2017年10月30日
Top