Yann LeCun爆惊人言论:深度学习已死?

2018 年 1 月 7 日 雷锋网 杨文


文 | 杨文

来自雷锋网(leiphone-sz)的报道

雷锋网AI科技评论按:深度学习领域最知名的学者之一Yann LeCun今日在自己facebook上发表的一篇短文,瞬间引爆了国内人工智能关注者们的朋友圈。这条动态讲的是什么呢?为何会引起如此轩然大波?

我们常常提到的深度学习是全部深度学习算法的总称,卷积神经网络是深度学习算法在图像处理领域的一个应用。而Yann LeCun就是卷积神经网路的发明者,也被称之为“卷积神经网络之父”。卷积神经网络的出现对人工智能发展的重要性不必多说。而这次Yann LeCun的推文传播如此之快,是不是有比“卷积神经网络”更重大的学术成果出来了?

为了使国内读者了解到 LeCun推送的内容,雷锋网编辑对推文进行了编译。

首先开头是一句极具有标题党风格的英法混合语:

 Deep Learning est mort. Vive Differentiable Programming!

翻译成中文就是:深度学习已死,可微分编程万岁!

为何突出此言?深度学习算法是人工智能多个领域的底层框架,怎么就死了呢?接着往下看发现LeCun说的是“深度学习”这个词已死,该有新的名词来替代它了。

LeCun提到的新词是可微分编程。

他在推文中解释道“可微分编程”不过是把现代深度学习技术重新换了个叫法,这就跟当年神经网络还只有两个以上隐藏层时就被称之为“深度学习”差不多。对于现代深度学习技术,“深度学习”这个词已经不够用了。

他又写道:

但重点的是,人们现在正通过组装参数化功能模块网络,构建一种新软件,并用某种基于梯度优化的方法来训练它们。


越来越多的人正在以一种依赖于数据的方式(循环和条件)来程序化定义网络,让它们随着输入数据的动态变化而变化。这与普通的程序非常类似,除了前者是参数化的、可以自动可微分,并且可训练和优化。动态网络变得越来越流行(尤其是对于NLP),这要归功于PyTorch和Chainer等深度学习框架(注意:早在1994年,之前的深度学习框架Lush,就能处理一种称为Graph Transformer Networks的特殊动态网络,用于文本识别)。


现在人们正在积极研究开发命令式可微分编程语言编译器,这对开发基于学习的AI(learning-based AI)来说是一条非常令人兴奋的途径。

最后,LeCun还特别强调将“深度学习”改名为”可微分编程”还不够,其他的一些概念也需要改,比如“预测性学习”应该改为 “Imputative Learning”。他说稍后会谈更多......(读者们可以帮想想还有什么需要改名的,这句是雷锋网加的)。让我们一起来关注LeCun的最新动态吧!

LeCun的Facebook截图:

  ◆  

推荐阅读

  计算机视觉基础入门教程   


计算机视觉基础班,上海交通大学博士讲师团队;从算法到实战应用,涵盖CV领域主要知识点;手把手项目演示,全程提供代码;深度剖析CV研究体系,轻松实战深度学习应用领域!详情点戳阅读原文链接或长按识别下方二维码~


登录查看更多
7

相关内容

杨立昆(法语:Yann Le Cun,英语:Yann LeCun,1960年7月8日-)(原中文译名:扬·勒丘恩)是一位计算机科学家,他在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络 (CNN),他也被称为卷积网络之父。他同Léon Bottou和Patrick Haffner等人一起创建了DjVu图像压缩技术。他同Léon Bottou一起开发了Lush语言。
Yoshua Bengio最新《深度学习》MLSS2020教程,附104页PPT及视频
专知会员服务
126+阅读 · 2020年7月10日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
209+阅读 · 2020年4月26日
Yann Lecun 纽约大学《深度学习(PyTorch)》课程(2020)PPT
专知会员服务
178+阅读 · 2020年3月16日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
【深度学习】深度学习的问题究竟在哪?
产业智能官
4+阅读 · 2019年8月30日
深度学习综述:Hinton、Yann LeCun和Bengio经典重读
机器学习算法与Python学习
4+阅读 · 2018年3月22日
Yann LeCun:深度学习已死,可微分编程万岁!
Marcus十大理由质疑深度学习?LeCun说大部分错了
大数据文摘
4+阅读 · 2018年1月4日
2017年四巨头的深度学习框架之战,你支持谁?
全球人工智能
6+阅读 · 2017年12月29日
NLP的这一年:深度学习或成主角
论智
3+阅读 · 2017年12月14日
Deep Reinforcement Learning: An Overview
Arxiv
17+阅读 · 2018年11月26日
Arxiv
11+阅读 · 2018年7月8日
A Multi-Objective Deep Reinforcement Learning Framework
Arxiv
8+阅读 · 2018年5月15日
Arxiv
16+阅读 · 2018年4月2日
Arxiv
3+阅读 · 2012年11月20日
VIP会员
相关论文
Deep Reinforcement Learning: An Overview
Arxiv
17+阅读 · 2018年11月26日
Arxiv
11+阅读 · 2018年7月8日
A Multi-Objective Deep Reinforcement Learning Framework
Arxiv
8+阅读 · 2018年5月15日
Arxiv
16+阅读 · 2018年4月2日
Arxiv
3+阅读 · 2012年11月20日
Top
微信扫码咨询专知VIP会员