密歇根大学最新28页综述论文《GANs生成式对抗网络综述:算法、理论与应用》,带你全面了解GAN技术趋势

2020 年 2 月 17 日 极市平台

加入极市专业CV交流群,与6000+来自腾讯,华为,百度,北大,清华,中科院等名企名校视觉开发者互动交流!更有机会与李开复老师等大牛群内互动!

同时提供每月大咖直播分享、真实项目需求对接、干货资讯汇总,行业技术交流。关注 极市平台 公众号 ,回复 加群,立刻申请入群~


来源:专知@微信公众号

【导读】生成式对抗网络(Generative Adversarial Networks,GANs)作为近年来的研究热点之一,受到了广泛关注,每年在机器学习、计算机视觉、自然语言处理、语音识别等上大量相关论文发表。密歇根大学Jie Gui博士等人近期发布了 A Review on Generative Adversarial Networks: Algorithms, Theory, and Applications ,包括28页pdf,这篇综述论文对460余篇论文进行了概述,尝试从算法,理论和应用的角度对各种GANs方法进行叙述


题目: A Review on Generative Adversarial Networks: Algorithms, Theory, and Applications

作者:Jie GuiZhenan SunYonggang WenDacheng TaoJieping Ye

【摘要】 生成对抗网络(GANs)是最近的热门研究主题。自2014年以来,人们对GAN进行了广泛的研究,并且提出了许多算法。但是,很少有全面的研究来解释不同GANs变体之间的联系以及它们是如何演变的。在本文中,我们尝试从算法,理论和应用的角度对各种GANs方法进行叙述。首先,详细介绍了大多数GANs算法的动机,数学表示形式和结构。此外,GANs已与其他机器学习算法结合用于特定应用,例如半监督学习,迁移学习和强化学习。本文比较了这些GANs方法的共性和差异。其次,研究了与GANs相关的理论问题。第三,说明了GANs在图像处理和计算机视觉,自然语言处理,音乐,语音和音频,医学领域以及数据科学中的典型应用。最后,指出了GANs未来的开放性研究问题。

论文地址:
https://www.zhuanzhi.ai/paper/8b531e33d7c934d81892a029bc080a9c
https://arxiv.org/abs/2001.06937


1. 概述


对抗生成网络已经成为了一个研究热点。 深度学习领域的传奇人物Yann LeCun 在Quora上发帖称:“GANs是过去10年机器学习领域最有趣的想法

从谷歌学术上可以发现,有大量和GANs相关的论文。 例如,2018年大约有11800篇关于GANs的论文。 也就是说,2018年,每天大约有32篇论文,每小时有超过一篇论文与GANs有关。

GANs有两部分组成:生成器和判别器。这两个模型都由神经网络实现,该系统可以将数据从一个空间映射到另一个空间 生成器尝试捕获真实数据的分布,以生成新的数据。 鉴别器通常是一个二进制分类器,要求尽可能准确地从真实的例子中鉴别出生成的例子。

GANs的优化是一个最大最小优化问题。 优化终止于一个鞍点,该鞍点相对于生成器是最小值,相对于鉴别器是最大值。 也就是说,当优化达到Nash equilibrium的目标时,这时可以认为生成器捕获了真实数据的真实分布 本文和先前的关于GANS的综述之间的区别主要有以下几点:

1)GANs的具体应用: 将GANs用于诸如图像合成和编辑,音频增强和合成等具体领域。

2)关于GANs的综合评述: 最早关于GANs的相关综述是Wang et al.整理的,该论文主要介绍了2017年以前GANs 的发展进程。 Z.Wang所作的“Generative adversarial networks: A survey and taxonomy”主要介绍了GANs在计算机视觉领域中的各种变体以及变体的损失函数。

到目前为止,本文是第一个从算法,理论和应用的角度为GANs提供一个全面的综述,并且介绍了GANs的最新的进展 再者,我们不仅关注GANs在图像处理和计算机视觉上的应用,而且关注了GANs在诸如自然语言处理和其他如医疗领域等相关领域中的序列数据上的应用。


2.章节内容


  • 章节1:论文摘要和介绍

  • 章节2:介绍相关工作

  • 章节3-5:分别从算法,理论和应用的角度介绍GCNs

  • 章节6:对开放性问题进行探讨

  • 章节7:总结



3. 各种相关的GANs算法


在章节3中,我们首先介绍原始的GANs。 然后介绍各种具有代表性的变体和GANs的训练,评估方式以及任务驱动的GANs(如下图所示)。


GAN代表性算法


4. GANs的具体应用


GANs是一个强有力的生成式模型,该模型可以用一个随机向量生成看起来完全和真实样例一样的数据。 训练过程中我们既不需要明确的知道真实数据的分布也不需要任何数学假设。 基于GANs的显著优势,GANs被广泛应用于图像处理,计算机视觉和序列数据上(具体见下表)。


5. GANs的开放研究问题


  • 离散数据GAN GANs for discrete data

  • New Divergences

  • 不确定性估计 Estimation uncertainty

  • 理论 Theory

  • 其他


部分论文展示:
为了方便大家下载,小极已经将论文下载打包,关注  极市平台  公众号,回复 GAN20  就可以获取《密歇根大学28页最新《GANs生成式对抗网络综述:算法、理论与应用》下载链接~


-END-


点击   阅读原文 ,可跳转浏览本文内所有网址链接




*延伸阅读



添加极市小助手微信 (ID : cv-mart) ,备注: 研究方向-姓名-学校/公司-城市 (如:目标检测-小极-北大-深圳),即可申请加入 目标检测、目标跟踪、人脸、工业检测、医学影像、三维&SLAM、图像分割等极市技术交流群 ,更有每月 大咖直播分享、真实项目需求对接、干货资讯汇总,行业技术交流 一起来让思想之光照的更远吧~




△长按添加极市小助手


△长按关注极市平台


觉得有用麻烦给个在看啦~  

登录查看更多
19

相关内容

最新《生成式对抗网络》简介,25页ppt
专知会员服务
167+阅读 · 2020年6月28日
专知会员服务
107+阅读 · 2020年5月21日
GANs最新综述论文: 生成式对抗网络及其变种如何有用
专知会员服务
70+阅读 · 2019年10月19日
密歇根大学《20年目标检测综述》
专知会员服务
96+阅读 · 2019年10月13日
生成式对抗网络GAN异常检测
专知会员服务
114+阅读 · 2019年10月13日
GAN学习路线图:论文、应用、课程、书籍大总结
全球人工智能
16+阅读 · 2019年7月8日
【综述】生成式对抗网络GAN最新进展综述
专知
57+阅读 · 2019年6月5日
GAN正在成为新的深度学习
新智元
7+阅读 · 2018年6月9日
【回顾】深度学习之星:GAN的原理
AI研习社
5+阅读 · 2017年11月27日
【GAN】生成式对抗网络GAN的研究进展与展望
产业智能官
12+阅读 · 2017年8月31日
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
Arxiv
3+阅读 · 2019年10月31日
Generative Adversarial Networks: A Survey and Taxonomy
Deep Learning for Energy Markets
Arxiv
8+阅读 · 2019年4月10日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
4+阅读 · 2018年9月25日
Arxiv
4+阅读 · 2018年3月23日
VIP会员
相关论文
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
Arxiv
3+阅读 · 2019年10月31日
Generative Adversarial Networks: A Survey and Taxonomy
Deep Learning for Energy Markets
Arxiv
8+阅读 · 2019年4月10日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
4+阅读 · 2018年9月25日
Arxiv
4+阅读 · 2018年3月23日
Top
微信扫码咨询专知VIP会员