题目: Deep Learning for Biomedical Image Reconstruction: A Survey

摘要:

医学影像是一种宝贵的医学资源,因为它可以窥探人体内部,为科学家和医生提供丰富的信息,这些信息对于理解、建模、诊断和治疗疾病是必不可少的。重建算法需要将采集硬件收集的信号转换成可解释的图像。考虑到问题的病态性和实际应用中缺乏精确的解析反变换,重构是一项具有挑战性的任务。而最后几十年目睹了令人印象深刻的进步的新形式,提高时间和空间分辨率,降低成本和更广泛的适用性,几个改进仍然可以设想,如减少采集和重建时间以减少病人的辐射和不适,同时增加诊所吞吐量和重建精度。此外,在小功率手持设备中部署生物医学成像需要在准确性和延迟之间取得良好的平衡。

成为VIP会员查看完整内容
0
24

相关内容

醫學影像是指为了医疗或医学研究,对人体或人体某部份,以非侵入方式取得内部组织影像的技术与处理过程。

深度学习方法对各种医学诊断任务都非常有效,甚至在其中一些任务上击败了人类专家。然而,算法的黑箱特性限制了临床应用。最近的可解释性研究旨在揭示对模型决策影响最大的特征。这一领域的大多数文献综述都集中在分类学、伦理学和解释的需要上。本文综述了可解释的深度学习在不同医学成像任务中的应用。本文从一个为临床最终用户设计系统的深度学习研究者的实际立场出发,讨论了各种方法、临床部署的挑战和需要进一步研究的领域。

成为VIP会员查看完整内容
0
67

【导读】元学习旨在学会学习,是当下研究热点之一。最近来自爱丁堡大学的学者发布了关于元学习最新综述论文《Meta-Learning in Neural Networks: A Survey》,值得关注,详述了元学习体系,包括定义、方法、应用、挑战,成为不可缺少的文献。

近年来,元学习领域,或者说“学会学习的学习”,引起了人们极大的兴趣。与传统的人工智能方法(使用固定的学习算法从头开始解决给定的任务)不同,元学习的目的是改进学习算法本身,考虑到多次学习的经验。这个范例提供了一个机会来解决深度学习的许多传统挑战,包括数据和计算瓶颈,以及泛化的基本问题。在这项综述中,我们描述了当代元学习的景观。我们首先讨论元学习的定义,并将其定位于相关领域,如迁移学习、多任务学习和超参数优化。然后,我们提出了一个新的分类法,对元学习方法的空间进行了更全面的细分。我们综述了元学习的一些有前途的应用和成功案例,包括小样本学习、强化学习和体系架构搜索。最后,我们讨论了突出的挑战和未来研究的有希望的领域。

https://arxiv.org/abs/2004.05439

概述

现代机器学习模型通常是使用手工设计的固定学习算法,针对特定任务从零开始进行训练。基于深度学习的方法在许多领域都取得了巨大的成功[1,2,3]。但是有明显的局限性[4]。例如,成功主要是在可以收集或模拟大量数据的领域,以及在可以使用大量计算资源的领域。这排除了许多数据本质上是稀有或昂贵的[5],或者计算资源不可用的应用程序[6,7]。

元学习提供了另一种范式,机器学习模型可以在多个学习阶段获得经验——通常覆盖相关任务的分布——并使用这些经验来改进未来的学习性能。这种“学会学习”[8]可以带来各种好处,如数据和计算效率,它更适合人类和动物的学习[9],其中学习策略在一生和进化时间尺度上都得到改善[10,9,11]。机器学习在历史上是建立在手工设计的特征上的模型,而特征的选择往往是最终模型性能的决定因素[12,13,14]。深度学习实现了联合特征和模型学习的承诺[15,16],为许多任务提供了巨大的性能改进[1,3]。神经网络中的元学习可以看作是集成联合特征、模型和算法学习的下一步。神经网络元学习有着悠久的历史[17,18,8]。然而,它作为推动当代深度学习行业前沿的潜力,导致了最近研究的爆炸性增长。特别是,元学习有可能缓解当代深度学习[4]的许多主要批评,例如,通过提供更好的数据效率,利用先验知识转移,以及支持无监督和自主学习。成功的应用领域包括:小样本图像识别[19,20]、无监督学习[21]、数据高效[22,23]、自导向[24]强化学习(RL)、超参数优化[25]和神经结构搜索(NAS)[26, 27, 28]。

在文献中可以找到许多关于元学习的不同观点。特别是由于不同的社区对这个术语的使用略有不同,所以很难定义它。与我们[29]相关的观点认为,元学习是管理“没有免费午餐”定理[30]的工具,并通过搜索最适合给定问题或问题族的算法(归纳偏差)来改进泛化。然而,从广义上来说,这个定义可以包括迁移、多任务、特征选择和模型集成学习,这些在今天通常不被认为是元学习。另一个关于元学习[31]的观点广泛地涵盖了基于数据集特性的算法选择和配置技术,并且很难与自动机器学习(AutoML)[32]区分开来。在这篇论文中,我们关注当代的神经网络元学习。我们将其理解为算法或归纳偏差搜索,但重点是通过端到端学习明确定义的目标函数(如交叉熵损失、准确性或速度)来实现的。

因此,本文提供了一个独特的,及时的,最新的调查神经网络元学习领域的快速增长。相比之下,在这个快速发展的领域,以往的研究已经相当过时,或者关注于数据挖掘[29、33、34、35、36、37、31]、自动[32]的算法选择,或者元学习的特定应用,如小样本学习[38]或神经架构搜索[39]。

我们讨论元学习方法和应用。特别是,我们首先提供了一个高层次的问题形式化,它可以用来理解和定位最近的工作。然后,我们在元表示、元目标和元优化器方面提供了一种新的方法分类。我们调查了几个流行和新兴的应用领域,包括少镜头、强化学习和架构搜索;并对相关的话题如迁移学习、多任务学习和自动学习进行元学习定位。最后,我们讨论了尚未解决的挑战和未来研究的领域。

未来挑战:

-元泛化 元学习在不同任务之间面临着泛化的挑战,这与传统机器学习中在不同实例之间进行泛化的挑战类似。

  • 任务分布的多模态特性
  • 任务族
  • 计算代价
  • 跨模态迁移和异构任务

总结

元学习领域最近出现了快速增长的兴趣。这带来了一定程度的混乱,比如它如何与邻近的字段相关联,它可以应用到什么地方,以及如何对它进行基准测试。在这次综述中,我们试图通过从方法学的角度对这一领域进行彻底的调查来澄清这些问题——我们将其分为元表示、元优化器和元目标的分类;从应用的角度来看。我们希望这项调查将有助于新人和实践者在这个不断增长的领域中定位自己,并强调未来研究的机会。

成为VIP会员查看完整内容
0
142

题目: Self-Supervised Viewpoint Learning From Image Collections

简介:

训练深度神经网络以估计对象的视点需要标记大型训练数据集。但是,手动标记视点非常困难,容易出错且耗时。另一方面,从互联网(例如汽车或人脸)上挖掘许多未分类的物体类别图像相对容易。我们试图回答这样的研究问题:是否可以仅通过自我监督将这种未标记的野外图像集合成功地用于训练一般对象类别的视点估计网络。这里的自我监督是指网络具有的唯一真正的监督信号是输入图像本身。我们提出了一种新颖的学习框架,该框架结合了“综合分析”范式,利用生成网络以视点感知的方式重构图像,并具有对称性和对抗性约束,以成功地监督我们的视点估计网络。我们表明,对于人脸,汽车,公共汽车和火车等几个对象类别,我们的方法在完全监督方法上具有竞争性。我们的工作为自我监督的观点学习开辟了进一步的研究,并为其提供了坚实的基础。

成为VIP会员查看完整内容
0
18

题目: Anomalous Instance Detection in Deep Learning: A Survey

摘要:

深度学习(DL)容易受到分布不均匀和对抗性示例的影响,从而导致不正确的输出。为了使DL更具有鲁棒性,最近提出了几种方法:异常检测技术来检测(并丢弃)这些异常样本。本研究试图为基于DL的应用程序异常检测的研究提供一个结构化的、全面的概述。我们根据现有技术的基本假设和采用的方法为它们提供了一个分类。我们讨论了每个类别中的各种技术,并提供了这些方法的相对优势和劣势。我们在这次调查中的目标是提供一个更容易并且更好理解的技术,这项技术是在这方面已经做过研究的,且属于不同的类别的。最后,我们强调了在DL系统中应用异常检测技术所面临的未解决的研究挑战,并提出了一些具有重要影响的未来研究方向。

成为VIP会员查看完整内容
0
53

题目: Time Series Data Augmentation for Deep Learning: A Survey

摘要:

近年来,深度学习在许多时间序列分析任务中表现优异。深度神经网络的优越性能很大程度上依赖于大量的训练数据来避免过拟合。然而,许多实际时间序列应用的标记数据可能会受到限制,如医学时间序列的分类和AIOps中的异常检测。数据扩充是提高训练数据规模和质量的有效途径,是深度学习模型在时间序列数据上成功应用的关键。本文系统地综述了时间序列的各种数据扩充方法。我们为这些方法提出了一个分类,然后通过强调它们的优点和局限性为这些方法提供了一个结构化的审查。并对时间序列异常检测、分类和预测等不同任务的数据扩充方法进行了实证比较。最后,我们讨论并强调未来的研究方向,包括时频域的数据扩充、扩充组合、不平衡类的数据扩充与加权。

成为VIP会员查看完整内容
0
79

论文主题: Deep Learning for Image Super-resolution: A Survey

论文摘要: 图像超分辨率(SR)是提高图像分辨率的一类重要的图像处理技术以及计算机视觉中的视频。近年来,基于深度学习的图像超分辨率研究取得了显著进展技术。在这项调查中,我们旨在介绍利用深度学习的图像超分辨率技术的最新进展系统的方法。一般来说,我们可以粗略地将现有的SR技术研究分为三大类:监督SR、非监督SR和领域特定SR。此外,我们还讨论了一些其他重要问题,如公开可用的基准数据集和性能评估指标。最后,我们通过强调几个未来来结束这项调查未来社区应进一步解决的方向和公开问题.

成为VIP会员查看完整内容
0
36

论文主题: Machine Learning Techniques for Biomedical Image Segmentation: An Overview of Technical Aspects and Introduction to State‐of‐Art Applications

论文摘要: 近年来,在开发更精确、更有效的医学图像和自然图像分割的机器学习算法方面取得了重大进展。在这篇综述文章中,我们强调了机器学习算法在医学影像领域实现高效准确分割的重要作用。我们特别关注与机器学习方法在生物医学图像分割中的应用相关的几个关键研究。我们回顾了经典的机器学习算法,如马尔可夫随机场、k-均值聚类、随机森林等。尽管与深度学习技术相比,此类经典学习模型往往不太准确,但它们往往更具样本效率,结构也不太复杂。我们还回顾了不同的深度学习结构,如人工神经网络(ANNs)、卷积神经网络(CNNs)和递归神经网络(RNNs),并给出了这些学习模型在过去三年中取得的分割结果。我们强调了每种机器学习范式的成功和局限性。此外,我们还讨论了与不同机器学习模型训练相关的几个挑战,并提出了一些启发式方法来解决这些挑战。

成为VIP会员查看完整内容
0
30

报告主题: Generative adversarial networks and adversarial methods in biomedical image analysis

报告摘要: 生成对抗网络(GANs)是深度生成模型的一个强大的子类,目前不仅受到计算机视觉和机器学习社区的广泛关注,而且还受到医学成像社区的广泛关注。GANs背后的关键思想是两个神经网络共同优化:一个网络试图合成与真实数据点相似的样本,而另一个网络评估结果与样本参考数据库的一致性。使用GANs进行样本合成可能用于解决大型和不同的带注释数据库的不足。此外,在对抗性博弈中优化的两个网络的概念被用来提供额外的损失项,以提高现有图像分析方法的性能。对抗性方法已成功地应用于典型的医学图像分析中,如去噪、重建、分割和检测。此外,对抗性训练在半监督学习和异常检测等领域也有新的应用。在本教程中,我们将在五个部分中提供关于GANs和医学图像分析中的对抗方法的基础和高级材料。我们将着重于机器学习和计算机视觉文献中最先进的核心论文,以及它们与医学影像分析作品的关系。为了使这些概念具体化,我们将提供一些医学成像应用的例子,这些应用都来自我们自己的工作和其他人的工作。

邀请嘉宾

Anirban Mukhopadhyay,达姆施塔特工业大学(德国)

Jelmer Wolterink,阿姆斯特丹大学医学中心(荷兰)

Konstantinos Kamnitsas,帝国理工学院(英国)

Jelmer Wolterink,阿姆斯特丹大学医学中心(荷兰)

成为VIP会员查看完整内容
Lecture_2.pdf
Lecture_1.pdf
Lecture_4.pdf
Lecture_3.pdf
0
26
小贴士
相关VIP内容
相关资讯
综述 | 图像配准 Image registration
计算机视觉life
12+阅读 · 2019年9月12日
最全综述 | 医学图像处理
计算机视觉life
31+阅读 · 2019年6月15日
深度学习与医学图像分析
人工智能前沿讲习班
21+阅读 · 2019年6月8日
医学图像分析最新综述:走向深度
极市平台
5+阅读 · 2019年2月25日
learn to see in the dark-低照度图像增强算法
计算机视觉life
12+阅读 · 2019年1月14日
【深度】可解释性与deep learning的发展
机器学习研究会
6+阅读 · 2017年10月15日
深度学习下的医学图像分析(四)
AI研习社
11+阅读 · 2017年7月19日
相关论文
Anomalous Instance Detection in Deep Learning: A Survey
Saikiran Bulusu,Bhavya Kailkhura,Bo Li,Pramod K. Varshney,Dawn Song
21+阅读 · 2020年3月16日
Sparse2Dense: From direct sparse odometry to dense 3D reconstruction
Jiexiong Tang,John Folkesson,Patric Jensfelt
8+阅读 · 2019年3月21日
Ziwei Zhang,Peng Cui,Wenwu Zhu
38+阅读 · 2018年12月11日
A New Ensemble Learning Framework for 3D Biomedical Image Segmentation
Hao Zheng,Yizhe Zhang,Lin Yang,Peixian Liang,Zhuo Zhao,Chaoli Wang,Danny Z. Chen
3+阅读 · 2018年12月10日
He Huang,Changhu Wang,Philip S. Yu,Chang-Dong Wang
6+阅读 · 2018年11月12日
Few-shot 3D Multi-modal Medical Image Segmentation using Generative Adversarial Learning
Arnab Kumar Mondal,Jose Dolz,Christian Desrosiers
9+阅读 · 2018年10月29日
Chunwei Tian,Yong Xu,Lunke Fei,Ke Yan
3+阅读 · 2018年10月11日
Compositional GAN: Learning Conditional Image Composition
Samaneh Azadi,Deepak Pathak,Sayna Ebrahimi,Trevor Darrell
30+阅读 · 2018年7月19日
Bairui Wang,Lin Ma,Wei Zhang,Wei Liu
5+阅读 · 2018年3月30日
Kerem C. Tezcan,Christian F. Baumgartner,Ender Konukoglu
4+阅读 · 2018年1月17日
Top