题目: Breaking the interpretability barrier - a methodfor interpreting deep graph convolutional models

摘要: 与基于图像的卷积网络相比,图卷积神经网络的可解释性具有更大的挑战性,因为图的节点之间没有显示出清晰的空间关系(就像图像一样)。本文探讨了一种计算图卷积分类模型节点相关信息的方法。为此,我们采用梯度CAM算法,通过替换图像中严重依赖像素二维空间关系的部分,在梯度CAM结果中通过其外观计数来估计节点的重要性。我们的策略是针对具有相关领域特定假设的现实问题而定义的;因此,我们另外提出了一种系统生成人工数据的方法,该方法与现实数据具有相似的属性,以评估学习过程和解释方法的通用性。实际数据用完整的加权图表示。通过应用稀疏化策略,初步的结果表明图中的信息节点可以被识别。

作者简介: Raul Cristian Muresan,博士,克鲁伊·纳波卡特兰西瓦尼亚神经科学研究所实验和理论神经科学实验室主任(罗马尼亚)。特兰西瓦尼亚神经科学研究所董事会主席克鲁·纳波卡(罗马尼亚)。法兰克福马克斯普朗克脑研究所附属研究员(德国)。等

成为VIP会员查看完整内容
0
12

相关内容

Raul Cristian Muresan,博士,克鲁伊·纳波卡特兰西瓦尼亚神经科学研究所实验和理论神经科学实验室主任(罗马尼亚)。特兰西瓦尼亚神经科学研究所董事会主席克鲁·纳波卡(罗马尼亚)。法兰克福马克斯普朗克脑研究所附属研究员(德国)。

主题: Machine learning for protein engineering

摘要: 机器学习指导的蛋白质工程是一种新的范例,可以优化复杂的蛋白质功能。 机器学习方法使用数据来预测蛋白质功能,而无需详细的基础物理或生物学途径模型。

成为VIP会员查看完整内容
0
7

我们提出了一种基于学习的方法来去除不需要的障碍物,如从一个移动的相机捕获的短序列图像中的窗户反射、栅栏遮挡或雨滴。我们的方法利用背景和障碍物元素之间的运动差异来恢复这两个图层。具体来说,我们在估计两层的密集光流场和通过深度卷积神经网络从流扭曲图像重建每一层之间进行交替。基于学习的层重构允许我们在流量估计和脆性假设(如亮度一致性)中考虑潜在的误差。结果表明,综合生成的训练数据能很好地转换为真实图像。我们在反射和栅栏移除的许多挑战性场景中的结果证明了该方法的有效性。

成为VIP会员查看完整内容
0
14

视频描述是一项具有挑战性的任务,需要对视觉场景有深刻的理解。最先进的方法使用场景级或对象级信息生成标题,但不显式地建模对象交互。因此,他们往往无法做出有视觉根据的预测,而且对虚假的相关性很敏感。本文提出了一种新的视频描述时空图模型,该模型利用了时空中物体间的相互作用。我们的模型建立了可解释的链接,并能够提供明确的视觉基础。为了避免由于对象数量的变化而导致系统性能的不稳定,提出了一种基于局部对象信息的全局场景特征正则化的对象感知知识提取机制。我们通过在两个基准上的大量实验来证明我们的方法的有效性,表明我们的方法具有可解释预测的竞争性能。

成为VIP会员查看完整内容
0
15

题目

张量图卷积网络的多关系和鲁棒学习,Tensor Graph Convolutional Networks for Multi-relational and Robust Learning

关键字

机器视觉,卷积神经网络,鲁棒性,深度学习,人工智能,半监督学习

简介

“数据泛滥”时代引发了人们对基于图的学​​习方法及其从社会学和生物学到交通运输和通信的广泛应用的新兴趣。在图感知方法的背景下,本论文介绍了一种张量图卷积网络(TGCN),用于从与张量表示的图集合相关的数据中进行可扩展的半监督学习(SSL)。新型TGCN架构的关键方面是通过可学习的权重来动态适应张量图中的不同关系,并考虑基于图的正则化器以促进平滑度并减轻过度参数化。最终目标是设计一种功能强大的学习架构,以实现以下目的: :发现复杂且高度非线性的数据关联,组合(并选择)多种类型的关系,随图的大小优雅地缩放,并对图边缘的扰动保持鲁棒性。所提出的架构不仅适用于节点自然涉及不同关系的应用(例如,在社交网络中捕获家庭,友谊和工作关系的多关系图),还适用于健壮的学习设置(其中图包含一定程度的不确定性),且不同的张量平板对应于标称图的不同版本(实现)。数值测试表明,相对于标准GCN,拟议的体系结构实现了显着改善的性能,可以应对最新的对抗性攻击,并通过蛋白质对蛋白质的交互网络实现了卓越的SSL性能。

作者

Vassilis N. Ioannidis,Student Member, IEEE,Antonio G. Marques,Senior Member, IEEE,Georgios B. Giannakis,Fellow, IEEE

成为VIP会员查看完整内容
0
12

题目: Dynamic Spatio-temporal Graph-based CNNs for Traffic Flow Prediction

摘要: 由于其时空结构的复杂性和动态性,预测未来交通流是一个具有挑战性的问题。大多数现有的基于图的CNN都试图捕捉静态关系,而忽略了序列数据下的动态关系。本文通过学习表达特征来表示时空结构,并从监控视频数据中预测未来的交通流,提出了一种基于动态时空图的神经网络(DST-GCNNs)。特别是,DST-GCNN是一个双流网络。在流量预测流中,我们提出了一种新的基于图形的时空卷积层来从流量的图形表示中提取特征。然后将几个这样的层叠加在一起来预测未来的流动。同时,随着交通条件的变化,图中交通流之间的关系往往是时变的。为了捕获图的动态,我们使用图预测流来预测动态图结构,并将预测的结构输入到流预测流中。在实际数据集上的实验表明,该模型与现有的方法相比具有较强的竞争能力。

成为VIP会员查看完整内容
0
48

题目: Probabilistic Logic Neural Networks for Reasoning

摘要:

知识图谱推理的目的是通过对观测到的事实进行推理来预测缺失的事实,它在许多应用中起着至关重要的作用。传统的基于逻辑规则的方法和近年来的知识图谱嵌入方法都对这一问题进行了广泛的探讨。马尔可夫逻辑网络(MLN)是一种有原则的基于规则的逻辑方法,它能够利用一阶逻辑的领域知识,同时处理不确定性。然而,由于其复杂的图形结构,MLNs的推理通常是非常困难的。与MLNs不同的是,知识图的嵌入方法(如TransE、DistMult)学习有效的实体嵌入和关系嵌入进行推理,这样更有效、更高效。然而,他们无法利用领域知识。在本文中,我们提出了概率逻辑神经网络(pLogicNet),它结合了两种方法的优点。pLogicNet使用一阶逻辑的马尔可夫逻辑网络定义所有可能的三联体的联合分布,该网络可以通过变分EM算法进行有效优化。采用知识图谱嵌入模型推断缺失的三联体,根据观测到的三联体和预测到的三联体更新逻辑规则权值。在多个知识图谱的实验证明了pLogicNet在许多竞争基线上的有效性。

作者:

瞿锰是蒙特利尔学习算法研究所的一年级博士生,之前,在伊利诺伊大学香槟分校获得了硕士学位,此外,在北京大学获得了学士学位。主要研究方向为机器学习、贝叶斯深度学习、数据挖掘和自然语言处理。

成为VIP会员查看完整内容
0
34

题目: Discovering Robustly Connected Subgraphs withSimple Descriptions

摘要:

我们研究了发现具有不完全描述的鲁棒性连通子图的问题。也就是说,我们的目标是发现这样的节点集:对于这些节点集,诱导的子图不仅很难分割成不连接的组件,而且对于这些节点集,只需对顶点属性进行一个简单的连接查询,就可以将它们从整个图中分离出来。由于许多子图没有这样简单的逻辑描述,所以首先挖掘鲁棒性的子图,然后在事后发现它们的描述会导致次优结果。相反,我们建议只对可描述子图进行运算时间化。为了有效地做到这一点,我们提出了一个非冗余迭代深化方法,我们装备了乐观估计器,允许我们修剪搜索空间的大部分。通过大量的实证评价,我们证明我们的方法可以考虑大的真实世界图,并且发现不仅是可解释的而且是有意义的子图。

邀请嘉宾:

Janis Kalofolias是Saarbrucken计算机科学研究生院的博士生,该学院由CISPA Helmholtz信息安全中心资助。此外,他还隶属于马克斯·普朗克信息学研究所的数据库和信息系统部。他的研究兴趣从用于子群发现的乐观估计器、基于内核的图间相似性度量方法到用于从复杂数据中获得主观上感兴趣的结构的信息论方法。Janis Kalofolias2011年在希腊佩特雷大学获得理学学士学位。2012年,他加入萨尔大学(Saarland University)攻读计算机科学硕士学位,并在马克斯·普朗克信息学研究所(Max Planck Institute for Informatics)担任研究助理。2016年11月,他以博士生身份加入EDA集团。

Mario Boley是一名机器学习和数据挖掘研究员,他是位于Saarbrucken的Max Planck信息学研究所探索性数据分析小组的成员。2011年,他在德国波恩大学获得了计算机科学的博士学位。Mario的研究目标一方面是对算法数据挖掘问题有一个合理的理论理解,另一方面是他的结果的实际适用性和实用性。因此,他不断地将理论见解集成到健壮的、可重用的软件中,并寻求跨学科合作。

成为VIP会员查看完整内容
0
3

题目: Background Knowledge Injection forInterpretable Sequence Classification

摘要: 序列分类是一项有监督的学习任务,它建立模型来预测未知符号序列的类标签。尽管准确性是最重要的,但在某些情况下,可解释性是必须的。不幸的是,我们回溯了人类独立的可解释性度量,这样的权衡通常很难实现。我们介绍了一种新的序列学习算法,它结合了(i)线性分类器,已知线性分类器在预测能力和可解释性之间取得了很好的平衡,以及(ii)背景知识嵌入。我们将经典的子序列特征空间扩展为由嵌入字或图的背景知识生成的符号组,并利用这个新的特征空间学习线性分类器。提出了一种新的基于符号嵌入的符号特征集可解释性评价方法。从可穿戴设备和氨基酸序列分类中识别人类活动的实验表明,我们的分类方法保留了预测能力,同时提供了更多的可解释模型。

作者简介: Severin Gsponer,都柏林大学学院数据分析洞察中心博士生。

Luca Costabello,都柏林大学学院埃森哲实验室,研究科学家。等

成为VIP会员查看完整内容
0
8
Top