摘要:

图神经网络(GNNs)最近变得越来越受欢迎,因为它们能够学习复杂的关系系统,这些关系产生于从生物学和粒子物理学到社会网络和推荐系统的广泛问题。尽管在图上进行深度学习的不同模型太多了,但迄今为止,很少有人提出方法来处理呈现某种动态性质的图(例如,随着时间的推移而进化的特征或连通性)。在本文中,作者提出了时序图网络(TGNs),一个通用的,有效的框架,用于深度学习动态图表示为时间事件序列。在内存模块和基于图的操作符中,TGNs能够显著优于以前的方法,同时计算效率也更高。作者进一步表明,以前的几个学习动态图的模型可以转换为TGN框架的具体实例。他们对TGN框架的不同组件进行了详细的消融研究,并设计了最佳配置,在动态图的几个转导和归纳预测任务上实现了最先进的性能。

讨论的问题:

  • 理解动态图的需要和目前静态GNN方法的局限
  • TGN内存模块和时间依赖嵌入模块
  • TGN先进的训练策略

结论

  • 时序图网络是动态时间图的广义GNN形式
  • 内存模块为每个节点介绍,并用于存储内存的数据动态
  • 图嵌入可以基于内存状态和下游时间的任务进行计算
  • 节点内存也可以更新测试时间
  • 作者介绍了计算内存的一般框架,但每个内存函数(消息、聚合和更新)可以根据手头的问题进行修改

地址: https://ai.science/e/tgn-temporal-graph-networks-for-deep-learning-on-dynamic-graphs--eqAnR859q8wk2jfcGnbx

成为VIP会员查看完整内容
139

相关内容

【KDD2020】动态知识图谱的多事件预测
专知会员服务
127+阅读 · 2020年8月30日
图神经网络基准,37页ppt,NTU Chaitanya Joshi
专知会员服务
23+阅读 · 2020年8月22日
一份简单《图神经网络》教程,28页ppt
专知会员服务
122+阅读 · 2020年8月2日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
【ICML2020】持续图神经网络,Continuous Graph Neural Networks
专知会员服务
149+阅读 · 2020年6月28日
少标签数据学习,54页ppt
专知会员服务
196+阅读 · 2020年5月22日
基于人体骨架的行为识别【附PPT与视频资料】
人工智能前沿讲习班
31+阅读 · 2019年1月15日
图卷积神经网络的变种与挑战【附PPT与视频资料】
人工智能前沿讲习班
27+阅读 · 2018年12月28日
前沿 | CNN取代RNN?当序列建模不再需要循环网络
Arxiv
13+阅读 · 2019年11月14日
Sparse Sequence-to-Sequence Models
Arxiv
5+阅读 · 2019年5月14日
dynnode2vec: Scalable Dynamic Network Embedding
Arxiv
14+阅读 · 2018年12月6日
Arxiv
16+阅读 · 2018年4月2日
Arxiv
6+阅读 · 2018年2月24日
Arxiv
12+阅读 · 2018年1月28日
Arxiv
5+阅读 · 2017年9月8日
Arxiv
5+阅读 · 2017年7月23日
VIP会员
相关VIP内容
【KDD2020】动态知识图谱的多事件预测
专知会员服务
127+阅读 · 2020年8月30日
图神经网络基准,37页ppt,NTU Chaitanya Joshi
专知会员服务
23+阅读 · 2020年8月22日
一份简单《图神经网络》教程,28页ppt
专知会员服务
122+阅读 · 2020年8月2日
注意力图神经网络的小样本学习
专知会员服务
191+阅读 · 2020年7月16日
【ICML2020】持续图神经网络,Continuous Graph Neural Networks
专知会员服务
149+阅读 · 2020年6月28日
少标签数据学习,54页ppt
专知会员服务
196+阅读 · 2020年5月22日
相关论文
Arxiv
13+阅读 · 2019年11月14日
Sparse Sequence-to-Sequence Models
Arxiv
5+阅读 · 2019年5月14日
dynnode2vec: Scalable Dynamic Network Embedding
Arxiv
14+阅读 · 2018年12月6日
Arxiv
16+阅读 · 2018年4月2日
Arxiv
6+阅读 · 2018年2月24日
Arxiv
12+阅读 · 2018年1月28日
Arxiv
5+阅读 · 2017年9月8日
Arxiv
5+阅读 · 2017年7月23日
微信扫码咨询专知VIP会员