题目: Composition-Based Multi-Relational Graph Convolutional Networks

摘要: 图卷积网络(GCNs)最近被证明在对图结构数据建模方面是非常成功的。然而,主要的重点是处理简单的无向图。多关系图是一种更为普遍和流行的图,其中每条边都有一个与之相关的标签和方向。现有的大多数处理此类图的方法都存在参数过多的问题,并且仅限于学习节点的表示形式。在本文中,我们提出了一种新的图卷积框架COMP-GCN,它将节点和关系共同嵌入到一个关系图中。COMP-GCN利用知识图谱嵌入技术中的各种实体关系组合操作,并根据关系的数量进行扩展。它还概括了几种现有的多关系GCN方法。我们评估了我们提出的方法在多个任务,如节点分类,链接预测,和图分类,并取得了明显的结果。

成为VIP会员查看完整内容
0
85

相关内容

题目: Adaptive Graph Encoder for Attributed Graph Embedding

简介: 从图拓扑和节点特征中学习向量表示的属性图嵌入是图分析的一项艰巨任务。近年来,基于图卷积网络(GCN)的方法在此任务上取得了很大的进步。但是,现有的基于GCN的方法具有三个主要缺点。首先,我们的实验表明图卷积滤波器和权重矩阵的纠缠将损害性能和鲁棒性。其次,我们证明了这些方法中的图卷积滤波器是广义拉普拉斯平滑滤波器的特例,但它们并未保留最佳的低通特性。最后,现有算法的训练目标通常是恢复与现实应用并不总是一致的邻接矩阵或特征矩阵,为了解决这些问题,我们提出了一种新型的属性图嵌入框架Adaptive Graph Encoder(AGE)。 AGE由两个模块组成:(1)为了更好地减轻节点特征中的高频噪声,AGE首先应用了精心设计的拉普拉斯平滑滤波器。 (2)AGE采用了自适应编码器,该编码器迭代地增强了滤波后的特征,以实现更好的节点嵌入。我们使用四个公共基准数据集进行实验,以验证AGE在节点群集和链接预测任务上的作用。实验结果表明,AGE在这些任务上始终优于最新的图形嵌入方法。

成为VIP会员查看完整内容
0
59

题目: Multi-relational Poincaré Graph Embeddings

摘要: 双曲嵌入最近在机器学习中获得了关注,因为它们能够比欧几里得类似物更准确和简洁地表示层次数据。然而,多关系知识图谱经常显示多个同时的层次结构,这是目前的双曲模型没有捕捉到的。为了解决这个问题,我们提出了一个模型,在双曲空间的庞加莱球模型中嵌入多关系图数据。我们的多关系庞加莱模型(MuRP)通过Mobius矩阵向量乘法和Mobius加法学习特定关系参数来转换实体嵌入。在WN18RR层次知识图上的实验表明,我们的庞加莱嵌入方法在链路预测任务上优于欧氏嵌入方法和现有的嵌入方法,特别是在低维的情况下。

成为VIP会员查看完整内容
0
29

题目: Relation Adversarial Network for Low Resource Knowledge Graph Completion

摘要: 知识图谱补全(Knowledge Graph Completion, KGC)是一种通过链接预测或关系提取来填充缺少的链接来改进知识图谱的方法。KGC的主要困难之一是资源不足。之前的方法假设有足够训练的三元组来学习实体和关系的通用向量,或者假设有足够数量的标签句子来训练一个合格的关系提取模型。然而,在KGs中,少资源关系非常普遍,这些新增加的关系往往没有很多已知的样本去进行训练。在这项工作中,我们的目标是在具有挑战性的环境下只有有限可用的训练实例预测新的事实。我们提出了一个加权关系对抗性网络的通用框架,它利用对抗性过程来帮助将从多资源关系中学习到的知识/特征调整为不同但相关的少资源关系。具体地说,该框架利用了一个关系鉴别器来区分样本和不同的关系,帮助学习更容易从源关系转移到目标关系的关系不变量特征。实验结果表明,该方法在少资源设置下的链路预测和关系提取都优于以往的方法。

成为VIP会员查看完整内容
0
29

题目: Graph Random Neural Networks

摘要:

图神经网络(GNNs)将深度学习方法推广到图结构数据中,在图形挖掘任务中表现良好。然而,现有的GNN常常遇到具有标记节点的复杂图结构,并受到非鲁棒性、过度平滑和过拟合的限制。为了解决这些问题,本文提出了一个简单而有效的GNN框架——图随机神经网络(Grand)。与现有GNNs中的确定性传播不同,Grand采用随机传播策略来增强模型的鲁棒性。这种策略也很自然地使Grand能够将传播从特征转换中分离出来,减少了过度平滑和过度拟合的风险。此外,随机传播是图数据扩充的一种有效方法。在此基础上,利用无标记节点在多个扩展中的分布一致性,提高模型的泛化能力,提出了Grand的一致性正则化方法。在图形基准数据集上的大量实验表明,Grand在半监督的图形学习任务上显著优于最先进的GNN基线。最后,证明了它可以显著减轻过度平滑和过度拟合的问题,并且它的性能与鲁棒性相结合。

成为VIP会员查看完整内容
0
92

主题: Graph Neural Networks with Composite Kernels

摘要: 近年来,对图结构化数据的学习引起了越来越多人的兴趣。诸如图卷积网络(GCN)之类的框架已经证明了它们在各种任务中捕获结构信息并获得良好性能的能力。在这些框架中,节点聚合方案通常用于捕获结构信息:节点的特征向量是通过聚集其相邻节点的特征来递归计算的。但是,大多数聚合方案都将图中的所有连接均等化,而忽略了节点特征的相似性。本文从内核权重的角度重新解释了节点聚合,并提出了一个框架来考虑特征相似性。我们表明归一化的邻接矩阵等效于Kerin空间中基于邻居的内核矩阵。然后,我们提出功能聚集作为基于原始邻居的内核和可学习的内核的组成,以在特征空间中编码特征相似性。我们进一步展示了如何将所提出的方法扩展到图注意力网络(GAT)。实验结果表明,在一些实际应用中,我们提出的框架具有更好的性能。

成为VIP会员查看完整内容
0
33

题目

张量图卷积网络的多关系和鲁棒学习,Tensor Graph Convolutional Networks for Multi-relational and Robust Learning

关键字

机器视觉,卷积神经网络,鲁棒性,深度学习,人工智能,半监督学习

简介

“数据泛滥”时代引发了人们对基于图的学​​习方法及其从社会学和生物学到交通运输和通信的广泛应用的新兴趣。在图感知方法的背景下,本论文介绍了一种张量图卷积网络(TGCN),用于从与张量表示的图集合相关的数据中进行可扩展的半监督学习(SSL)。新型TGCN架构的关键方面是通过可学习的权重来动态适应张量图中的不同关系,并考虑基于图的正则化器以促进平滑度并减轻过度参数化。最终目标是设计一种功能强大的学习架构,以实现以下目的: :发现复杂且高度非线性的数据关联,组合(并选择)多种类型的关系,随图的大小优雅地缩放,并对图边缘的扰动保持鲁棒性。所提出的架构不仅适用于节点自然涉及不同关系的应用(例如,在社交网络中捕获家庭,友谊和工作关系的多关系图),还适用于健壮的学习设置(其中图包含一定程度的不确定性),且不同的张量平板对应于标称图的不同版本(实现)。数值测试表明,相对于标准GCN,拟议的体系结构实现了显着改善的性能,可以应对最新的对抗性攻击,并通过蛋白质对蛋白质的交互网络实现了卓越的SSL性能。

作者

Vassilis N. Ioannidis,Student Member, IEEE,Antonio G. Marques,Senior Member, IEEE,Georgios B. Giannakis,Fellow, IEEE

成为VIP会员查看完整内容
0
20

题目: Tensor Graph Convolutional Networks for Text Classification

摘要: 文本分类是自然语言处理中一个重要而经典的问题。已有许多研究将卷积神经网络(如规则网格上的卷积,序列)应用于分类。然而,只有有限数量的研究已经探索了更灵活的图卷积神经网络(卷积在非网格上,例如,任意图)的任务。在这项工作中,我们建议使用图卷积网络进行文本分类。基于词的共现关系和文档词之间的关系,我们为一个语料库建立一个文本图,然后学习一个文本图卷积网络(text GCN)。我们的文本GCN使用word和document的一个热表示进行初始化,然后在已知文档类标签的监督下,共同学习word和document的嵌入。我们在多个基准数据集上的实验结果表明,没有任何外部单词嵌入或知识的普通文本GCN优于最新的文本分类方法。另一方面,文本GCN还学习预测词和文档嵌入。此外,实验结果表明,随着训练数据百分比的降低,文本GCN相对于现有比较方法的改进变得更加突出,这表明文本GCN对文本分类中较少的训练数据具有鲁棒性。

成为VIP会员查看完整内容
0
63
小贴士
相关VIP内容
专知会员服务
76+阅读 · 2020年7月9日
专知会员服务
92+阅读 · 2020年5月26日
相关资讯
论文浅尝 | ICLR2020 - 基于组合的多关系图卷积网络
开放知识图谱
15+阅读 · 2020年4月24日
一文读懂图卷积GCN
计算机视觉life
13+阅读 · 2019年12月21日
【论文笔记】Graph U-Nets
专知
56+阅读 · 2019年11月25日
ICLR 2019 | 基于复杂空间关系旋转的知识表示方法
图卷积神经网络(GCN)文本分类详述
专知
205+阅读 · 2019年4月5日
基于注意力机制的图卷积网络
科技创新与创业
51+阅读 · 2017年11月8日
关系推理:基于表示学习和语义要素
计算机研究与发展
12+阅读 · 2017年8月22日
干货|基于图卷积网络的图深度学习
DataCanvas大数据云平台
7+阅读 · 2017年6月8日
相关论文
Geometric Graph Convolutional Neural Networks
Przemysław Spurek,Tomasz Danel,Jacek Tabor,Marek Śmieja,Łukasz Struski,Agnieszka Słowik,Łukasz Maziarka
7+阅读 · 2019年9月11日
Position-aware Graph Neural Networks
Jiaxuan You,Rex Ying,Jure Leskovec
7+阅读 · 2019年6月11日
Qingheng Zhang,Zequn Sun,Wei Hu,Muhao Chen,Lingbing Guo,Yuzhong Qu
30+阅读 · 2019年6月6日
Linjie Li,Zhe Gan,Yu Cheng,Jingjing Liu
4+阅读 · 2019年3月29日
GCN-LASE: Towards Adequately Incorporating Link Attributes in Graph Convolutional Networks
Ziyao Li,Liang Zhang,Guojie Song
5+阅读 · 2019年2月26日
Hao Peng,Jianxin Li,Qiran Gong,Senzhang Wang,Yuanxing Ning,Philip S. Yu
5+阅读 · 2019年2月25日
Ivana Balazevic,Carl Allen,Timothy M. Hospedales
8+阅读 · 2018年10月18日
Tim Dettmers,Pasquale Minervini,Pontus Stenetorp,Sebastian Riedel
27+阅读 · 2018年4月6日
Muhan Zhang,Yixin Chen
22+阅读 · 2018年2月27日
Petar Veličković,Guillem Cucurull,Arantxa Casanova,Adriana Romero,Pietro Liò,Yoshua Bengio
6+阅读 · 2018年2月4日
Top