【EMNLP2019教程】图神经网络GNN的自然语言处理,附315页PPT及作者博士论文下载

2019 年 11 月 6 日 专知

导读

本教程旨在介绍基于图的深度学习技术的最新进展,如自然语言处理(NLP)领域的图卷积网络(GCN)。教程简短地介绍了非欧几里得域中的深度学习方法,例如图并且证明它们在NLP中的相关性。然后介绍了基于图的深度学习方法在各种NLP任务中的最新进展,如语义角色标注、机器翻译、关系抽取等。

介绍

图(graphs)与我们的日常生活紧密相关,从我们的社交网络到最近十分流行的知识图谱(KG)都充斥着图的身影。图是最富表现力的数据结构之一,已被用于建模各种问题。事实上,知识图谱(KG)就是图的结构化表示,其中节点表示实体,边表示实体之间的关系。然而,卷积神经网络(CNN)和递归神经网络(RNN)这些传统的神经网络只适合处理欧几里得数据。面对这种困境,图卷积网络(GCN)顺势而生,被用来解决上面提到的问题并且已经成功的应用到了一些问题上。



作者对GCN的研究

(1)NeuralDater模型,一种基于图卷积网络(GCN)的文献年代测定方法。这是GCN和基于深度神经网络的方法首次应用于文档年代测定问题。

(2)SynGCN模型,该方法是一种灵活的基于图卷积的词嵌入学习方法,该方法利用词对上下文的依赖性而不是线性上下文来学习更加有意义的词嵌入表示。


目前GCN方法的局限性

(1)当前标准的邻域聚合方法对节点数量没有限制,但是过多的节点数量会影响目标节点的表示,这使得几跳(few hops)之后,hub-nodes的词表示就会覆盖几乎覆盖整张图,进而导致hub-nodes的词表示包含了大量的噪声。为解决这个问题,作者相应的提出了ConfGCN模型。

(2)目前大多数的GCN方法都只能够处理无向图。然而,现实生活中更为普遍的一种图是关系图,其中每条边都有一个与之关联的标签和方向。目前处理这些图的方法都饱受过量参数的困扰,而且这些方法仅限于学习节点的表示。为了解决这个问题,作者提出了CompGCN 方法。

教程地址:

https://www.emnlp-ijcnlp2019.org/program/tutorials/

https://github.com/svjan5/GNNs-for-NLP

相关资料下载
请关注专知公众号(点击上方蓝色专知关注

后台回复“EMNLP2019-GNN” 就可以获取相关资料(教程PPT、作者博士论文)的下载链接~

-END-
专 · 知


专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取更多AI知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询
请加专知小助手微信(扫一扫如下二维码添加),获取专知VIP会员码,加入专知人工智能主题群,咨询技术商务合作~
点击“阅读原文”,了解注册成为专知VIP会员
登录查看更多
32+

相关内容

图卷积网络(简称GCN),由Thomas Kpif于2017年在论文Semi-supervised classification with graph convolutional networks中提出。它为图(graph)结构数据的处理提供了一个崭新的思路,将深度学习中常用于图像的卷积神经网络应用到图数据上。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
Top