【导读】自监督学习是目前深度学习社区中发展迅速的研究方向之一,吸引了大量的研究人员投入其中,本文为大家整理了ICML会议上,DeepMind出品的权威教程,帮助了解自监督学习领域的发展方向。
介绍:
得益于现代的high-capacity模型,大数据技术已经推动机器学习算法在多种领域中落地应用,但对于标准方法(从标签中进行监督学习、从reward中进行强化学习)来说,却日益陷入了瓶颈之中。即使在数据量非常充足的情况下,也难以制定模型学习方向的准确的标签信息。即使在数百万的样本中,尝试整理用于分类的类别信息,也是非常困难的,并且很难进行结构化的输出(场景解释、交互、演示),尤其是当数据分布并不均匀的情况下,这一进程更加的令人沮丧。
而自监督学习,是非常有前途的一种技术方向,其中采用了基于代理的学习思想,允许模型和代理在没有显式监督的情况下进行学习,这将有助于提高任务的下游性能,自监督学习的一个主要好处是提高了数据效率,并且使用了更少的标记数据,或更少的环境步骤(在强化学习/机器人技术中)实现更好的性能。
本文主要介绍了如下内容:
图像或视频中的自监督学习
视频-音频中的自监督学习
其他领域中可用于自监督学习的成对信号场景
请关注专知公众号(点击上方蓝色专知关注)
后台回复“ICMLSSL” 就可以获取《Self-Supervised Learning》完整版PPT下载链接~
内容预览:
更多完整内容,请下载查看
-END-
专 · 知
专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询!
请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~
专知《深度学习:算法到实战》课程全部完成!550+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!
点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程