本文推荐来自Emanuele Rodolà博士讲述《几何深度学习》,100页ppt系统性讲述了几何深度学习基础知识和最新进展,非常干货。 http://lcsl.mit.edu/courses/regml/regml2020/

几何深度学习

过去十年在计算机视觉研究已经见证了“深度学习”的重新崛起,特别是卷积神经网络(CNN)技术, 它允许从大量的样例中学习强大的图像特征表示。CNNs在图像分类、分割、检测和标注等广泛的应用中取得了性能上的突破。然而,当试图将CNN范式应用于三维形状、点云和图形(基于特征的描述、相似度、对应、检索等)时,必须面对图像与几何对象之间的根本差异。形状分析、图形分析和几何处理带来了图像分析中不存在的新挑战,而深度学习方法直到最近才开始渗透到这些领域。本教程的目的是概述非欧几里得数据学习技术的基础和目前的技术现状。本教程将特别关注应用于欧氏和非欧氏流形的深度学习技术(CNN),以完成形状分类、检索和对应的任务。本教程将从新的角度介绍3D计算机视觉和几何数据处理的问题,强调与传统2D设置的类比和区别,并展示如何适应流行的学习方案,以处理非欧几里得结构。

成为VIP会员查看完整内容
0
32

相关内容

机器学习暑期学校(MLSS)系列开始于2002年,致力于传播统计机器学习和推理的现代方法。今年因新冠疫情在线举行,从6月28号到7月10号讲述了众多机器学习主题。本文推荐来自帝国理工学院Michael Bronstein教授讲述《几何深度学习》,166页ppt系统性讲述了几何深度学习基础知识和最新进展,非常干货。

地址: http://mlss.tuebingen.mpg.de/2020/schedule.html

作者介绍 Michael Bronstein,伦敦帝国理工学院教授,Twitter 图机器学习研究负责人,CETI 项目机器学习领导、Twitter 图机器学习负责人、研究员、教师、企业家和投资者。

https://www.imperial.ac.uk/people/m.bronstein

几何深度学习

在过去的几年,深度学习方法在多个领域取得了前所未有的成就,比如计算机视觉和语言识别。目前研究者主要将深度学习方法应用于欧氏结构数据,然而有些非常重要的应用需要处理非欧氏空间结构的数据,比如图和流形。这些几何数据在许多任务重的重要性越来越多高,比如3D视觉、传感网络、药品研发、生物医药、推荐系统以及各种web程序。深度学习在这些方面的应用有着明显的滞后,这是因为处理的对象的非欧性质使得在深层网络中对其基本操作的定义相当麻烦。

本教程的目的是介绍几何深度学习在图和流形数据上的最新成果,并综述针对这些问题的解决方法、关键难点和未来的研究方向。

成为VIP会员查看完整内容
0
40

【导读】小样本学习是一类重要的机器学习方法,旨在解决数据缺少的情况下如何训练模型的问题。在CVPR2020的Tutorial,来自valeo.ai的学者给了Spyros Gidaris关于小样本学习的最新教程报告。

在过去的几年里,基于深度学习的方法在图像理解问题上取得了令人印象深刻的效果,如图像分类、目标检测或语义分割。然而,真实字计算机视觉应用程序通常需要模型能够(a)通过很少的注释例子学习,(b)不断适应新的数据而不忘记之前的知识。不幸的是,经典的监督深度学习方法在设计时并没有考虑到这些需求。因此,计算机视觉的下一个重大挑战是开发能够解决这方面现有方法的重要缺陷的学习方法。本教程将介绍实现这一目标的可能方法。小样本学习(FSL)利用先验知识,可以快速地泛化到只包含少量有监督信息的样本的新任务中。

https://annotation-efficient-learning.github.io/

目录内容:

  • 概述
  • 小样本学习种类
  • 度量学习
  • 带记忆模块的元学习
  • 基于优化的元学习
  • 学习预测模型参数
  • 无遗忘小样本学习
  • 结论

成为VIP会员查看完整内容
0
88

书名: Multiple View Geometry in Computer Vision

主要内容:

该书分为六个部分,并有七个简短的附录。每个部分都引入了一个新的几何关系:背景的单应性,单视点的相机矩阵,两视点的基本矩阵,三视点的三焦张量,四视点的四焦张量。在每种情况下,都有一章描述这种关系、它的性质和应用,并有相应的一章描述从图像测量中进行估计的算法。所述的估计算法范围从廉价、简单的方法到目前被认为是最佳可用的最优算法。

第0部分:背景 这一部分比其他部分更像是教程。介绍了2-空间和3-空间射影几何的中心思想(如理想点和绝对二次曲线);几何图形如何表示、处理和估计;以及几何图形如何与计算机视觉中的各种目标相联系,如校正平面图像以消除透视畸变。

第1部分:单视图几何 在这里,各种各样的相机模型的透视投影从3-空间到一个图像的定义和他们的解剖探索。介绍了利用传统的标定对象技术进行标定的方法,以及从消失点和消失线进行摄像机标定的方法。

第2部分:双视图几何 介绍了双摄像机的极外几何结构、图像点对应的射影重建、射影模糊的解决方法、最佳三角剖分、通过平面实现视图之间的转换。

第3部分:三视图几何 这里描述了三个相机的三焦几何结构,包括点对应从两个视图到第三个视图的转换,以及线对应的类似转换;计算几何从点和线对应,检索相机矩阵。

第4部分:多视角 这部分有两个目的。首先,它将三视图几何扩展到四个视图(一个较小的扩展),并描述了适用于n视图的估计方法,例如Tomasi和Kanade的因式分解算法,用于同时从多个图像计算结构和运动。其次,它涵盖了在前几章中提到过的主题,但通过强调它们的共性,可以更全面、更一致地理解这些主题。示例包括推导对应关系的多线性视图约束、自动校准和模糊解决方案。

附录: 这些描述了进一步的背景资料张量,统计,参数估计,线性和矩阵代数,迭代估计,稀疏矩阵系统的解,和特殊的投影变换。

成为VIP会员查看完整内容
《计算机视觉中的多视图几何(第2版)》英文版.pdf
0
37

简介: 在许多将数据表示为图形的领域中,学习图形之间的相似性度量标准被认为是一个关键问题,它可以进一步促进各种学习任务,例如分类,聚类和相似性搜索。 最近,人们对深度图相似性学习越来越感兴趣,其中的主要思想是学习一种深度学习模型,该模型将输入图映射到目标空间,以使目标空间中的距离近似于输入空间中的结构距离。 在这里,我们提供对深度图相似性学习的现有文献的全面回顾。 我们为方法和应用提出了系统的分类法。 最后,我们讨论该问题的挑战和未来方向。

在特征空间上学习足够的相似性度量可以显着确定机器学习方法的性能。从数据自动学习此类度量是相似性学习的主要目的。相似度/度量学习是指学习一种功能以测量对象之间的距离或相似度,这是许多机器学习问题(例如分类,聚类,排名等)中的关键步骤。例如,在k最近邻(kNN)中分类[25],需要一个度量来测量数据点之间的距离并识别最近的邻居;在许多聚类算法中,数据点之间的相似性度量用于确定聚类。尽管有一些通用度量标准(例如欧几里得距离)可用于获取表示为矢量的对象之间的相似性度量,但是这些度量标准通常无法捕获正在研究的数据的特定特征,尤其是对于结构化数据。因此,找到或学习一种度量以测量特定任务中涉及的数据点的相似性至关重要。

成为VIP会员查看完整内容
0
48

报告名称: Geometry and Learning from Data in 3D and Beyond - Shape Analysis

报告背景: 快速的采集技术和广泛的三维数据可用性强调了对处理和分析三维形状的高级工具的需求。与图像和信号处理不同,图像和信号处理使用成熟的处理和学习工具处理平面域上的函数,三维形状由于其不规则和弱结构而呈现出独特的挑战。尽管在为这些任务开发工具方面取得了惊人的进展,但在自动分析、处理和理解三维几何图形方面仍存在许多挑战。特别是,机器学习的最新进展显示了在信号和图像处理方面的进步,而对三维形状的处理则相对落后。本次研讨会旨在将传统的三维形状分析与最新的学习进展相结合,让世界领先的数学和计算机科学研究人员学习、探索、合作,并开发新的思路和研究方向。

报告大纲:

  • 形状差异和可变性
  • 结构化数据问题的稳健方法
  • 多管六面体网格的选择填充
  • 弹性形状匹配:组合与直接方法
  • 离散壳空间的主测地线分析
  • 从非刚性空间到空空间
  • 基于ADMM的功能图与基础设计
  • 基于几何建模和学习的非等距形状匹配
  • 学习变形形状对应
  • 利用结构隐函数学习形状模板
  • 用神经网络分析、处理和生成三维形状的几何表示法
  • 人工神经网络中的几何编码
  • 流形上的高斯过程标记
  • 基于计算共形几何的形状分析
  • 函数数据的弹性超对齐——形状与信号

报告嘉宾:

Pierre Alliez(自动信息学研究所(INRIA)) Omri Azencot(加利福尼亚大学,洛杉矶大学(UCLA)) Mirela Ben Chen(技术-以色列理工学院) Alex Bronstein(技术-以色列理工学院) 迈克尔·布朗斯坦(伦敦帝国大学,卢加诺大学) Daniel Cremers(慕尼黑工业大学) Stanley Durrleman(AramisLab-ICM脑与脊柱研究所– INRIA – ICM神经信息学中心) 托马斯·冯克豪斯(Google和普林斯顿大学) 顾宪峰(石溪大学) Leonidas Guibas(斯坦福大学,计算机科学) Shantanu Joshi(加利福尼亚大学,洛杉矶大学(UCLA)) Vova Kim(Adobe系统公司) Leif Kobbelt(亚琛工业大学) 赖荣杰(伦斯勒工业学院) Niloy Mitra(伦敦大学学院) Maks Ovsjanikov(高等理工学院) 赫尔穆特·波特曼(阿卜杜拉国王科技大学(KAUST)) Dan Raviv(特拉维夫大学) Emanuele Rodola(罗马的萨皮恩扎大学) 马丁·伦普(Martin Rumpf)(莱茵大学弗里德里希·威廉姆斯大学) Stefano Soatto(加利福尼亚大学洛杉矶分校(UCLA)) 贾斯汀·所罗门(麻省理工学院) 阿兰·特劳夫(ÉcoleNormaleSupérieurede Cachan)

报告PDF链接 :https://pan.baidu.com/s/1vM8X_8378w3IJflQLlfehA

成为VIP会员查看完整内容
0
7

报告名称: Deep Geometric Learning of Big Data and Applications

报告摘要: 深度学习技术在计算机视觉,自然语言处理和语音分析方面取得了令人印象深刻的性能。这些任务专注于位于欧几里得域上的数据,并且针对这些域的数学工具(例如卷积,下采样,多尺度和局部性)已得到明确定义,并受益于GPU等快速计算硬件。但是,许多基本数据和任务都涉及非欧几里德领域,而这些领域最初并不是为深度学习方法设计的。例如计算机图形学中的3D点云和3D形状,大脑结构连接网络中的功能性MRI信号,基因组学中基因调控网络的DNA,量子化学中的药物设计,高能物理中的中微子检测以及常见的知识图理解视觉场景。这一主要局限性促使近年来的研究界将神经网络推广到任意的几何域,例如图形和流形。卷积,粗化,多分辨率,因果关系等基本操作已通过频谱和空间方法进行了重新定义。这些非欧氏数据分析问题的最新结果显示了在许多领域中都有希望的令人振奋的新工具。

该研讨会的目标是:1)召集数学家,机器学习科学家和领域专家,以建立这些新兴技术的现状; 2)讨论用于分析这些新的深度学习技术的框架; 3)确立新的研究方向以及这些技术在神经科学,社会科学,计算机视觉,自然语言处理,物理学,化学中的应用,以及4)讨论了GPU以外的适用于非欧几里德领域的新计算机处理体系结构。

邀请嘉宾: Jure Leskovec,斯坦福大学计算机科学副教授。 研究重点是对大型社会和信息网络进行挖掘和建模,它们的演化,信息的传播以及对它们的影响。 调查的问题是由大规模数据,网络和在线媒体引起的。

Stanley Osher,加州大学洛杉矶分校 IPAM 数学与计算机科学教授,电气工程与化学和生物分子工程教授。

报告部分大纲:

  • 自动微分,PyTorch和图形神经网络
  • 深度学习作为稀疏性强制算法
  • 语义3D重建
  • 高维几何的视角
  • 稳健性与准确性
  • 异质分子结构定位中的逆问题和无监督学习
成为VIP会员查看完整内容
0
4

课程介绍:

深度学习正在改变人工智能领域,但缺乏扎实的理论基础。这种事务状态极大地阻碍了进一步的发展,例如耗时的超参数优化或对抗性机器学习中遇到的非凡困难。我们为期三天的研讨会基于我们确定为当前的主要瓶颈:了解深度神经网络的几何结构。这个问题是数学,计算机科学和实用机器学习的融合。我们邀请这些领域的领导者加强新的合作,并为深度学习的奥秘寻找新的攻击角度。

主讲人:

Peter Bartlett,加州大学伯克利分校教授,工作于计算机科学和统计部门、伯克利人工智能研究实验室、西蒙斯计算理论研究所。

Leon Bottou,一名研究科学家,对机器学习和人工智能有着广泛的兴趣。近年来,在大规模学习和随机梯度算法方面的工作受到了广泛的关注。他也以DjVu文件压缩系统而闻名,于2015年3月加入Facebook人工智能研究。

Anna Gilbert,在芝加哥大学获得理学学士学位,在普林斯顿大学获得数学博士学位;1997年,是耶鲁大学和at&T实验室研究所的博士后研究员。1998年至2004年,她是新泽西州弗洛勒姆公园at&T实验室研究部的技术人员。从那以后,她一直在密歇根大学数学系工作,现在是那里的一名教授。

Piotr Indyk,电气工程和计算机科学系的托马斯D.和弗吉尼亚W.卡伯特教授。计算机科学与人工智能实验室,无线麻省理工学院,大数据学院和MIFODS计算组的成员。兴趣方向:高维计算几何(包括近似最近邻搜索)、数据流算法、稀疏恢复、压缩感知、机器学习。

S. T. Yau,中国科学院数学科学研究所所长,哈佛大学数学系教授。感兴趣的领域:微分几何,微分方程和数学物理。

成为VIP会员查看完整内容
AI-Institute-Geometry-of-Deep-Learning-2019-Day-1-Session-4-SLIDES.pdf
AI-Institute-Geometry-of-Deep-Learning-2019-Day-1-Session-2-SLIDES.pdf
AI-Institute-Geometry-of-Deep-Learning-2019-Day-1-Session-1-SLIDES.pdf
AI-Institute-Geometry-of-Deep-Learning-2019-Day-1-Session-3-SLIDES.pdf
0
11
小贴士
相关VIP内容
【课程推荐】 深度学习中的几何(Geometry of Deep Learning)
专知会员服务
11+阅读 · 2019年11月10日
相关论文
Xiaomeng Li,Lequan Yu,Chi-Wing Fu,Meng Fang,Pheng-Ann Heng
3+阅读 · 4月16日
Learning to See Through Obstructions
Yu-Lun Liu,Wei-Sheng Lai,Ming-Hsuan Yang,Yung-Yu Chuang,Jia-Bin Huang
4+阅读 · 4月2日
Hardness-Aware Deep Metric Learning
Wenzhao Zheng,Zhaodong Chen,Jiwen Lu,Jie Zhou
5+阅读 · 2019年3月13日
Yu Cheng,Mo Yu,Xiaoxiao Guo,Bowen Zhou
10+阅读 · 2019年1月26日
Yong Wang,Xiao-Ming Wu,Qimai Li,Jiatao Gu,Wangmeng Xiang,Lei Zhang,Victor O. K. Li
7+阅读 · 2018年7月8日
Wenbin Li,Jing Huo,Yinghuan Shi,Yang Gao,Lei Wang,Jiebo Luo
7+阅读 · 2018年5月15日
Jason, Dai,Yiheng Wang,Xin Qiu,Ding Ding,Yao Zhang,Yanzhang Wang,Xianyan Jia, Cherry, Zhang,Yan Wan,Zhichao Li,Jiao Wang,Shengsheng Huang,Zhongyuan Wu,Yang Wang,Yuhao Yang,Bowen She,Dongjie Shi,Qi Lu,Kai Huang,Guoqiong Song
3+阅读 · 2018年4月16日
Haque Ishfaq,Assaf Hoogi,Daniel Rubin
3+阅读 · 2018年4月3日
Wentong Liao,Michael Ying Yang,Ni Zhan,Bodo Rosenhahn
3+阅读 · 2018年2月9日
Ksenia Konyushkova,Raphael Sznitman,Pascal Fua
9+阅读 · 2018年1月16日
Top