题目: Breaking the interpretability barrier - a methodfor interpreting deep graph convolutional models

摘要: 与基于图像的卷积网络相比,图卷积神经网络的可解释性具有更大的挑战性,因为图的节点之间没有显示出清晰的空间关系(就像图像一样)。本文探讨了一种计算图卷积分类模型节点相关信息的方法。为此,我们采用梯度CAM算法,通过替换图像中严重依赖像素二维空间关系的部分,在梯度CAM结果中通过其外观计数来估计节点的重要性。我们的策略是针对具有相关领域特定假设的现实问题而定义的;因此,我们另外提出了一种系统生成人工数据的方法,该方法与现实数据具有相似的属性,以评估学习过程和解释方法的通用性。实际数据用完整的加权图表示。通过应用稀疏化策略,初步的结果表明图中的信息节点可以被识别。

作者简介: Raul Cristian Muresan,博士,克鲁伊·纳波卡特兰西瓦尼亚神经科学研究所实验和理论神经科学实验室主任(罗马尼亚)。特兰西瓦尼亚神经科学研究所董事会主席克鲁·纳波卡(罗马尼亚)。法兰克福马克斯普朗克脑研究所附属研究员(德国)。等

成为VIP会员查看完整内容
5+
0+

相关内容

Raul Cristian Muresan,博士,克鲁伊·纳波卡特兰西瓦尼亚神经科学研究所实验和理论神经科学实验室主任(罗马尼亚)。特兰西瓦尼亚神经科学研究所董事会主席克鲁·纳波卡(罗马尼亚)。法兰克福马克斯普朗克脑研究所附属研究员(德国)。

论文题目: GMAN: A Graph Multi-Attention Network for Traffic Prediction

论文摘要:

由于交通系统的复杂性和影响因素的多变性,长期交通预测具有很大的挑战性。本文以时空因素为研究对象,提出了一种基于图的多注意网络(GMAN)来预测道路网络图中不同位置的时间步长下的交通状况。GMAN采用了编码器和解码器的结构,编码器和解码器都由多个时空注意块组成以模拟时空因素对交通条件的影响。编码器对输入流量进行编码,解码器对输出流量进行预测。在编码器和解码器之间,作为解码器的输入,应用转换保持层转换已编码的流量特征以生成未来时间步的序列表示。转换注意机制对历史时间步长和未来时间步长之间的直接关系进行建模,有助于缓解预测时间步长的误差传播问题。两个真实的交通预测任务的实验结果。,交通流量预测和交通速度预测)。特别地,在提前一小时的预测中,GMAN在MAE测量中比最先进的方法提高了4%。

论文作者:

范晓亮,高级工程师,硕导,数字福建城市交通大数据研究所副所长,数字福建健康医疗大数据研究所副所长。研究方向:城市感知与智能计算、医学数据隐私保护与人工智能应用。

戚建中目前就职于墨尔本大学计算与信息系统学院,从事数据科学研究。他们最近的出版物是“用智能模拟器研究交通问题”。

成为VIP会员查看完整内容
7+
0+

论文题目: Graph Convolutional Networks with Motif-based Attention

论文摘要:

深度卷积神经网络在计算机视觉和语音识别领域的成功,使得研究人员开始研究该体系结构对图结构数据的泛化。最近提出的一种称为图卷积网络的方法能够在节点分类方面取得最新的成果。然而,由于所提出的方法依赖于spectral图卷积的局部一阶近似,因此无法捕获图中节点间的高阶相互作用。在这项工作中,我们提出了一个motif-based的图注意力模型,称为Motif Convolutional Networks,它通过使用加权多跳motif邻接矩阵来捕获高阶邻域,从而泛华了过去的方法。一个新的注意力机制被用来允许每个单独的节点选择最相关的邻居来应用它的过滤器。我们在不同领域(社会网络和生物信息学)的图上评估了我们的方法,结果表明它能够在半监督节点分类任务上胜过一组有竞争力的基准方法。其他结果证明了attention的有用性,表明不同的节点对不同的高阶邻域进行了优先排序。

论文作者:

John Boaz Lee于2015-1019年在伍斯特理工学院计算机科学系的攻读博士学位。研究领域包括深度学习、数据挖掘、信息与社会网络分析、强化学习等。2020年1月,将加入Facebook研究的核心数据科学团队作为研究科学家。

Ryan A. Rossi目前在Adobe Research工作。研究领域是机器学习,从社会和物理现象跨越理论、算法和大型复杂关系(网络/图)数据的应用。在普渡大学获得了计算机科学的博士和硕士学位。Ryan A. Rossi的论文主要研究关系机器学习和动态网络数据的挖掘,并且获得了国家科学基金研究生奖学金(NSF GRFP)、国防科学与工程研究生奖学金(NDSEG)、普渡大学弗雷德里克·n·安德鲁斯奖学金以及比尔斯兰博士学位论文奖学金。还是网络存储库项目的联合创始人,该项目是第一个具有交互式可视图形分析功能的数据存储库,可以帮助研究人员通过web实时查找、探索和理解图形数据。

孔祥南的研究兴趣集中在数据挖掘和机器学习上,重点在于解决生物医学和社会应用中的数据科学问题。孔博士对设计算法以解决各种研究领域中的数据多样性问题特别感兴趣,这些领域包括生物医学研究,社会计算,神经科学和商业智能。他一直致力于神经科学,生物医学信息学和社交网络领域的图形数据挖掘,并且在数据挖掘的顶级会议和期刊上发表了论文,包括KDD,ICDM,SDM,WWW,WSDM,CIKM,TKDE。

成为VIP会员查看完整内容
7+
0+

论文题目: Dynamic graph representation learning via self-attention networks

论文摘要: 学习图中节点的潜在表示是一项重要且普遍存在的任务,在链接预测、节点分类和图可视化等领域有着广泛的应用。以往的图表示学习方法主要集中在静态图上,而现实世界中的很多图都是动态的、随时间变化的。在这篇论文中,我们提出了Dynamic Self-Attention Network (DySAT),这是一种新型的神经架构,它操作在动态图上,并学习节点表示,以捕捉结构特性和时间演化模式。具体来说,DySAT通过在两个维度(结构邻域和时间动态)上联合使用self-attention层来计算节点表示。我们对两类图进行了链接预测实验:通信网络和二分评级网络。我们的实验结果表明,DySAT在几种不同的最先进的图嵌入baseline上有显著的性能提升。

作者简介: 武延宏,Visa Research的研究员。在加入Visa之前,他是IBM T.J.Watson研究中心的博士后研究员,负责金融领域的异常检测和分析。他还曾在Aviz | INRIA和Microsoft Research Asia担任访问学者,专注于大型图挖掘和可视化。他于2013年6月从香港理工大学获得博士学位,并于2013年6月在复旦大学软件学院获得学士学位。他的研究兴趣包括图形建模、深入学习和可视化分析。等

成为VIP会员查看完整内容
5+
0+

报告主题:图神经网络 (GNN) 算法及其应用

报告摘要:图神经网络将深度学习方法延伸到非欧几里得的图数据上,大大提高了图数据应用的精度。在这个报告中,我将简单回顾一下图卷积网络(GCN)并探讨如何提高GCN在图数据上的表示学习能力。我们的研究发现几个巧妙、简单的方法可以有效的提高GCN的表示能力,该方法可以等价表示为图注意力网络(GAT)。该方法的有效性在包括阿里巴巴等多个超大规模数据集上得到验证。

邀请嘉宾:唐杰,清华大学计算机系教授、系副主任,获杰青。研究兴趣包括:数据挖掘、社交网络和知识图谱。发表论文200余篇,引用10000余次(个人h-指数57)。主持研发了研究者社会网络挖掘系统AMiner,吸引了220个国家/地区1000多万独立IP访问。曾担任国际期刊ACM TKDD的执行主编和国际会议CIKM’16、WSDM’15的PC Chair、KDD’18大会副主席。作为第1完成人获北京市科技进步一等奖、中国人工智能学会科技进步一等奖、KDD杰出贡献奖。

成为VIP会员查看完整内容
2019-GNN-a-review-唐杰.pdf
20+
0+
Top