【NeurIPS2018】无监督深度学习全景教程(附193页PDF下载)

2018 年 12 月 5 日 专知

【导读】2018年12月2日到12月8日,第三十二届NeurIPS (Conference on Neural Information Processing Systems)年度会议在蒙特利尔会议中心盛大召开。该会议汇集了机器学习和计算神经领域的顶级专家学者,为广大研究者带来了大量高质量的研究成果。本文特为大家整理了来自DeepMind与Facebook研究人员联名所作的学术报告-无监督深度学习,希望大家喜欢。


介绍:


无监督学习在深度神经网络中的地位正变得越来越重要,其既可以使用大量未标记数据,也可以学习到能够快速推广到新任务和场景的表示。其主要的挑战在于如何确定学习的目标是什么,以及如何去定义这个目标。本教程将介绍一种简单粗暴的“预测所有内容”的方法,这种方法基于概率模型实现,可以通过最小描述长度原理(Minimum Mescription Length principle)来尽可能的压缩数据。同时,我们还将对该领域的一些其他方法进行综述,包括非标准的基于能量(energy-based)的模型,自监督的算法和纯粹的生成模型,如GAN等。如果时间允许的化,我们会将讨论扩展到强化学习领域,在其中的无监督学习驱动力被类比为内在动机,诸如好奇心(curiosity)、授权(empowerment)以及压缩过程之类的概念都将被作为学习的驱动因素。


作者介绍:


Alex Graves:Alex Graves在爱丁堡大学获得了理论物理学士学位,在IDSIA获得人工智能博士学位人工智能博士学位,随后在慕尼黑技术大学,以及多伦多大学的Geoff Hinton处获得博士后学位。现在供职于DeepMind,其贡献主要包括用于序列标记的时间分类算法,随机梯度变分推断、神经图灵机/可微分神经计算机结构。



Marc'Aurelio Ranzato:Marc'Aurelio Ranzato是纽约市Facebook AI研究实验室的研究科学家主管。他的研究兴趣在于无监督学习、持续学习和迁移学习,成果应用于计算机视觉、自然语言处理和语音识别领域。她在Yann LeCun的指导下获得了纽约大学计算机科学博士学位,并在多伦多大学Geoffrey Hinton处获得博后职位。于2011年加入Google Brain团队,2013年,加入Facebook并成为Facebook AI研究实验室的创始人员。


请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),

  • 后台回复“NIPSUL” 就可以获取无监督学习PDF下载链接


附PDF全文:


-END-

专 · 知


人工智能领域26个主题知识资料全集获取与加入专知人工智能服务群: 欢迎微信扫一扫加入专知人工智能知识星球群,获取专业知识教程视频资料和与专家交流咨询!


请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料!



请加专知小助手微信(扫一扫如下二维码添加),加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~

 AI 项目技术 & 商务合作:[email protected], 或扫描上面二维码联系!

请关注专知公众号,获取人工智能的专业知识!

点击“阅读原文”,使用专知

登录查看更多
点赞 0
Top