题目: AlignNet: Unsupervised Entity Alignment

摘要:

最近开发的深度学习模型能够学会在无监督的情况下将场景分割为组件对象。这开辟了许多新颖的研究方法,允许代理将对象(或实体)作为输入,而不是像素。不幸的是,尽管这些模型提供了单个帧的出色分割效果,但它们无法跟踪在一个时间步长处分割的对象与在后一个时间步长处对应的对象如何对齐(或对齐)。对齐(或对应)问题阻碍了在下游任务中使用对象表示的进展。在本文中,采取了解决对准问题的步骤,提出了AlignNet(无监督对准模块)。

成为VIP会员查看完整内容
0
15

相关内容

现实生活中常常会有这样的问题:缺乏足够的先验知识,因此难以人工标注类别或进行人工类别标注的成本太高。很自然地,我们希望计算机能代我们完成这些工作,或至少提供一些帮助。根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题,称之为无监督学习

理想情况下,我们希望将两个几何对象插入到一个函数中,然后通过函数来说明它们之间的相似性。这将允许我们回答关于下游应用程序中几何数据的不同层次上的各种问题。然而,对于高级任务,如计算样式相似度或三维形状之间的顶点到顶点映射,直接在原始几何数据上进行这些操作是困难的,因为更抽象的任务需要更结构化的聚合信息。实现这种相似性函数的一种方法是首先计算这些数据到嵌入空间的映射,从而对不同几何元素之间的有意义的关系进行编码,例如在风格上,更相似的形状嵌入得更紧密。通过利用这个嵌入空间,我们可以计算并输出相似度度量。然而,手工构建保存这些属性的映射是很困难的,因为为越来越抽象的任务制定显式规则或模型变得越来越具有挑战性。因此,我们使用了由人类提供的与任务相关的元信息的几何数据集合。这允许我们通过使用神经网络灵活地制定地图计算,而不用对映射图本身的形式做太多假设。为了从广泛可用的机器学习技术中获益,我们必须首先考虑如何选择合适的几何数据表示作为各种学习模型的输入。具体来说,根据数据源的可用性和任务的特定需求,我们从图像、点云和三角形网格计算嵌入。一旦我们找到了对输入进行编码的合适方法,我们就会探索不同的方法来塑造学习到的中间域(嵌入),这超越了直接的基于分类分布的交叉熵最小化方法。

https://sites.google.com/view/geometry-learning-foundation/schedule#h.p_am99P6ELk_gL

成为VIP会员查看完整内容
0
22

题目: Multi-view Knowledge Graph Embedding for Entity Alignment

摘要: 我们研究了知识图谱之间基于嵌入的实体对齐问题。之前的研究主要集中在实体的关系结构上。有些还进一步合并了另一种类型的特性,比如属性,以进行细化。然而,大量的实体特征尚未被探索或没有被平等地放在一起处理,这损害了基于嵌入的实体对齐的准确性和鲁棒性。在本文中,我们提出了一个新的框架,统一实体的多个视图来学习嵌入来实现实体对齐。具体来说,我们根据实体名称、关系和属性的视图嵌入实体,并使用几种组合策略。此外,我们设计了一些跨KG推理方法来增强两个KG之间的对齐。我们在真实数据集上的实验表明,所提出的框架显著优于目前最先进的基于嵌入的实体对齐方法。所选择的视图、跨KG推理和组合策略都有助于性能的提高。

成为VIP会员查看完整内容
0
21

无监督学习是机器学习的三个主要分支之一(以及监督学习和强化学习)。它也可以说是最不发达的分支。它的目标是通过发现和利用其隐藏结构来找到对输入数据的简约描述。据推测,与监督学习相比,这更让人联想到大脑的学习方式。此外,假设通过无监督学习发现的表示形式可以缓解深度监督和强化学习中的许多已知问题。但是,由于缺乏明确的ground-truth目标来优化,无监督学习的发展进展缓慢。在本次演讲中,DeepMind研究科学家Irina Higgins和DeepMind研究工程师Mihaela Rosca概述了无监督表示学习的历史作用以及开发和评估此类算法的困难。然后,他们将采取多学科的方法来思考什么可以做一个好的表示方法,以及为什么要这样做,然后再对无监督的表示学习的当前最新方法进行广泛的概述。

成为VIP会员查看完整内容
0
38

题目: Online Deep Clustering for Unsupervised Representation Learning

摘要:

联合聚类和特征学习方法在无监督表示学习中表现出了显著的效果。但是,特征聚类和网络参数更新训练计划的交替导致视觉表征学习的不稳定。为了克服这个挑战,我们提出在线深度集群(ODC),它可以同时执行集群和网络更新,而不是交替进行。关键见解是,聚类中心应该稳步发展,以保持分类器的稳定更新。具体来说,设计和维护了两个动态内存模块,即样本记忆用于存储样本标签和特征,中心记忆用于中心进化。我们将全局聚类分解为稳定的内存更新和成批的标签重新分配。该过程被集成到网络更新迭代中。通过这种方式,标签和网络齐头并进,而不是交替发展。大量的实验表明,ODC能够稳定训练过程,有效地提高训练性能。

成为VIP会员查看完整内容
0
34

场景流估计在三维环境感知中越来越受到重视。单目场景流估计是一个高度不适定的问题,目前缺乏实用的解决方案。单目场景流估计是从两个时间上连续的图像中获取三维结构和三维运动。我们提出了一种新的单目场景流算法,该算法具有较强的精度和实时性。采用逆问题观点,我们设计了一个单独的卷积神经网络(CNN),它可以成功地从一个经典的光流成本体积同时估计深度和三维运动。我们采用带有三维损失函数和遮挡推理的自监督学习来利用未标记的数据。我们验证了我们的设计选择,包括代理丢失和增加设置。我们的模型在单目场景流的无监督/自监督学习方法中达到了最先进的精度,并在光流和单目深度估计子任务中获得了具有竞争力的结果。半监督微调进一步提高了精度,并在实时产生有希望的结果。

成为VIP会员查看完整内容
0
13

题目: Self-Supervised Viewpoint Learning From Image Collections

简介:

训练深度神经网络以估计对象的视点需要标记大型训练数据集。但是,手动标记视点非常困难,容易出错且耗时。另一方面,从互联网(例如汽车或人脸)上挖掘许多未分类的物体类别图像相对容易。我们试图回答这样的研究问题:是否可以仅通过自我监督将这种未标记的野外图像集合成功地用于训练一般对象类别的视点估计网络。这里的自我监督是指网络具有的唯一真正的监督信号是输入图像本身。我们提出了一种新颖的学习框架,该框架结合了“综合分析”范式,利用生成网络以视点感知的方式重构图像,并具有对称性和对抗性约束,以成功地监督我们的视点估计网络。我们表明,对于人脸,汽车,公共汽车和火车等几个对象类别,我们的方法在完全监督方法上具有竞争性。我们的工作为自我监督的观点学习开辟了进一步的研究,并为其提供了坚实的基础。

成为VIP会员查看完整内容
0
17

主题: Weakly-Supervised Salient Object Detection via Scribble Annotations

摘要: 与费力的逐像素密集标记相比,这种方法更容易通过涂抹来标记数据,仅花费1-2秒即可标记一张图像。然而,尚未有人探索使用可划线标签来学习显着物体检测。在本文中,我们提出了一种弱监督的显着物体检测模型,以从此类注释中学习显着性。为此,我们首先使用乱码对现有的大型显着物体检测数据集进行重新标记,即S-DUTS数据集。由于对象的结构和详细信息不能通过乱写识别,因此直接训练带有乱写的标签将导致边界位置局限性的显着性图。为了缓解这个问题,我们提出了一个辅助的边缘检测任务来明确地定位对象边缘,并提出了门控结构感知损失以将约束置于要恢复的结构范围上。此外,我们设计了一种涂鸦增强方案来迭代地整合我们的涂鸦注释,然后将其作为监督来学习高质量的显着性图。我们提出了一种新的度量标准,称为显着性结构测量,用于测量预测显着性图的结构对齐方式,这与人类的感知更加一致。在六个基准数据集上进行的大量实验表明,我们的方法不仅优于现有的弱监督/无监督方法,而且与几种完全监督的最新模型相提并论。

成为VIP会员查看完整内容
0
26
小贴士
相关VIP内容
专知会员服务
22+阅读 · 2020年7月24日
相关资讯
【论文笔记】Graph U-Nets
专知
48+阅读 · 2019年11月25日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
已删除
将门创投
4+阅读 · 2019年4月1日
无监督元学习表示学习
CreateAMind
19+阅读 · 2019年1月4日
【泡泡一分钟】端到端的弱监督语义对齐
泡泡机器人SLAM
24+阅读 · 2018年4月5日
相关论文
Deflecting Adversarial Attacks
Yao Qin,Nicholas Frosst,Colin Raffel,Garrison Cottrell,Geoffrey Hinton
4+阅读 · 2020年2月18日
M Saiful Bari,Shafiq Joty,Prathyusha Jwalapuram
5+阅读 · 2019年11月22日
Qingheng Zhang,Zequn Sun,Wei Hu,Muhao Chen,Lingbing Guo,Yuzhong Qu
29+阅读 · 2019年6月6日
Alexander Fritzler,Varvara Logacheva,Maksim Kretov
6+阅读 · 2018年12月14日
Paul Henderson,Vittorio Ferrari
3+阅读 · 2018年11月15日
Sagie Benaim,Lior Wolf
3+阅读 · 2018年10月23日
Multi-Task Identification of Entities, Relations, and Coreference for Scientific Knowledge Graph Construction
Yi Luan,Luheng He,Mari Ostendorf,Hannaneh Hajishirzi
8+阅读 · 2018年8月29日
Zhilin Yang, Jake, Zhao,Bhuwan Dhingra,Kaiming He,William W. Cohen,Ruslan Salakhutdinov,Yann LeCun
6+阅读 · 2018年6月14日
Bhuwan Dhingra,Danish Pruthi,Dheeraj Rajagopal
4+阅读 · 2018年4月2日
Top