Tomaso Poggio:深度学习需要从炼金术走向化学

2018 年 1 月 28 日 AI100


记者 | 周翔


AI科技大本营1月28日消息,《麻省理工科技评论》新兴科技峰会EmTech China在北京召开,营长也受邀参加,会上有多位人工智能领域的重磅大佬出没,Tomoso Poggio 教授就是其中一位。


说起 Tomoso Poggio ,也许很多人不太熟悉,但他的几个学生都已经名满天下。比如:DeepMind 创始人、Alpha Go 之父 Demis Hassabis;艾伦人工智能研究所首席科学家 Christof Koch;Mobileye 创始人兼 CTO Amnon Shashua 等等。


Tomaso Poggio 教授目前是 MIT 计算机科学&人工智能实验室(CSAIL)教授,曾获得ICCV 2017 “Azriel Rosenfeld 终生成就奖”,也是 DeepMind 最早期的投资人之一。


今天 Tomoso Poggio 用凝练的语言为我们解释了人工智能领域正在发生什么,未来可能在哪里取得突破。提及业内人士经常自嘲的“深度学习就像这个时代的炼金术”这个观点,Tomoso Poggio认为的确如此,但需要将炼金术转化为真正的“化学”,这样我们才能知道,深度学习在未来到底可以实现什么。


以下为 Tomoso Poggio 教授演讲实录,AI 科技大本营做了不改变原意的整理。

 

今天我想和大家谈一下人工智能领域正在发生什么。


首先,我想说说我们在人工智能最近所取得的一些成功,尤其是过去五年,以及我们人工智能未来可能在哪里取得突破。然后是深度学习,深度学习有点像我们这个时代的炼金术,但是需要从炼金术转化为真正的化学。这样我们才能知道,深度学习在未来到底可以实现什么。


过去五年,人工智能领域最重要的两个成就是:AlphaGo和自动驾驶。我在这行待得够久了,因此两个领域都有我的学生:一个是AlphaGo的Hassabis先生,他是DeepMind员工,现在在谷歌;另外一个就是Moblieye的CEO Amnon Shashua,他现在已经加入了英特尔。

 

接下来我们可以看一下过去23年机器学习取得了哪些进步。

 

23年以前,我和Hassabis希望可以把计算机视觉和机器学习进行整合,然后创造出一个学习系统辨别行人。在1995年,我们可以看到机器识别出了行人和信号灯,基本上每秒钟会出现10个错误,当时我们对这个结果还是非常满意的。


但是,Moblieye后来做到了每30英里只出现1个错误,把错误率降至当年的百万分之一,可以看出机器学习的准确性显著提高。

 

AlphaGo和Moblieye所取得的进步,背后是什么动因呢?

 

首先我认为是机器学习的算法,第一是深度学习,第二是强化学习,他们都是来自于认知科学以及神经科学。

 

深度学习的架构最早是在60年代研究猴子的视觉系统时被发明出来的,从而更好地研究他们大脑在学习时的神经结构。然后一直到Fukushima 提出了首个量化模型,再到20年前现代版的HMAX被提出。这些架构都是一脉相承的——从脑科学到现在的深度学习,本质上都是一样的层级架构。从下到上,神经的等级越来越高。这个结构的局部中并没有很多的连接,每一个高级的神经元只会和下一个等级的神经元相联系。

 

2012年我们也开发出了AlexNet,它也是性能最好的一个架构。基于神经科学,我们通过工程学的研究并不断地发展。这是很重要的,因为我们还没有真正实现人工智能。

 

深度学习可以帮助我们解决10%的难题,剩下的90%呢?我的答案是我们可能也需要来自神经科学以及认知科学的研究,我们需要更好地了解人的思维和大脑。这也是我们MIT的大脑&意识&机器中心(CBMM)在研究的问题。


五年前我们开始开展相关的研究,我们的使命就是要在理解认知方面获得新的进步,同时也需要去了解整个智能的架构和智能背后的科学原理。关于智能的科学会帮助我们回答最宏大的问题,了解生命的起源包括宇宙的起源,以及时间的源头。大脑中智能的产生,是科学现在需要解决的首要问题。

 

CBMM想通过以下三条路径解决这个问题:


  • 一:计算机科学+机器学习

  • 二:神经科学

  • 三:认知科学


我们会同谷歌这样的商业公司合作,探索在工程和科学领域合作的可能。

 

过去几年中,技术发展和理论发展、包括深度神经网络领域的发展很显著。

要了解深度神经网络的运作原理,需要回答背后的三个基本问题:

 

  1. 逼近理论:深层网络什么情况下会比浅层网络更有效?

  2. 最优化:应该如何设计经验风险函数?

  3. 学习理论:为什么深度学习不会产生过拟合?

 

这三个问题是机器学习的奠基石。他们的答案很复杂,要解决这种问题,我们需要一开始就思考深度学习的一些技术理论,以及它的局限性。

 

现在是应用人工智能的黄金时代,因为深度学习及其工程应用,终于帮助我们将传统的人工智能科学理论应用于了工程实际,而且能够为我们进行赋能。假如我们可以超越深度学习的理论,可以更好的去了解人类智能的话,也可以更加深刻地了解我们人类自己。



招聘

新一年,AI科技大本营的目标更加明确,有更多的想法需要落地,不过目前对于营长来说是“现实跟不上灵魂的脚步”,因为缺人~~


所以,AI科技大本营要壮大队伍了,现招聘AI记者和资深编译,有意者请将简历投至:gulei@csdn.net,期待你的加入!


如果你暂时不能加入营长的队伍,也欢迎与营长分享你的精彩文章,投稿邮箱:suiling@csdn.net


如果以上两者你都参与不了,那就加入AI科技大本营的读者群,成为营长的真爱粉儿吧!后台回复:读者群,加入营长的大家庭,添加营长请备注自己的姓名,研究方向,营长邀请你入群。


热文精选


深度学习如何入门,这里有一份专业成长路径

谈深度学习必谈计算力!如何成为一名异构并行计算工程师?

能在不同的深度学习框架之间转换模型?微软的MMdnn做到了

资源 | 8张思维导图帮你梳理深度学习&机器学习多个知识点

热门 | Google Brain前员工深度盘点2017人工智能和深度学习各大动态

实战 | 深度学习轻松学:如何用可视化界面来部署深度学习模型

资源 | 2017深度学习优秀论文盘点(建议收藏)

资源 | 李飞飞、吴恩达、Bengio等人的15大顶级深度学习课程,你集全了吗?

资源 | AI、神经网络、机器学习、深度学习以及大数据学习备忘单



☟☟☟点击 | 阅读原文 | 查看更多精彩内容

登录查看更多
1

相关内容

Tomaso A. Poggio是麻省理工学院大脑与认知科学系的Eugene McDermott教授,也是麻省理工学院新成立的NSF大脑、心智和机器中心的主任,麻省理工学院和哈佛大学是该中心的主要成员机构。他是计算机科学和人工智能实验室以及麦戈文大脑研究所的成员。他是神经科学研究项目的荣誉成员,美国艺术与科学学院的成员,AAAI的创始成员和麦戈文大脑研究所的创始成员。他获得了2003年的Gabor奖、2009年的Okawa奖、美国科学促进会奖学金,以及2014年的斯沃茨理论与计算神经科学奖。他是被引用最多的计算机科学家之一,其贡献从视觉系统的生物物理和行为研究到人类和机器的视觉和学习的计算机分析。利用W. Reichardt,他定量地描述了苍蝇的视觉运动控制系统。引入了计算神经科学中分析层次的重要思想。他引入正则化作为数学框架来解决视觉不适定问题和从数据中学习的关键问题。他的研究一直是跨学科的,介于大脑和计算机之间。它现在专注于学习理论的数学,学习技术在计算机视觉中的应用,特别是视觉皮层的计算神经科学。个人主页:http://poggio-lab.mit.edu/people/tomaso-poggio
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
209+阅读 · 2020年4月26日
Python数据分析:过去、现在和未来,52页ppt
专知会员服务
99+阅读 · 2020年3月9日
【综述】金融领域中的深度学习,附52页论文下载
专知会员服务
161+阅读 · 2020年2月27日
机器翻译深度学习最新综述
专知会员服务
97+阅读 · 2020年2月20日
MIT-深度学习Deep Learning State of the Art in 2020,87页ppt
专知会员服务
61+阅读 · 2020年2月17日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
2019->2020必看的十篇「深度学习领域综述」论文
专知会员服务
269+阅读 · 2020年1月1日
复旦大学邱锡鹏老师《神经网络与深度学习》书册最新版
【深度学习】深度学习的问题究竟在哪?
产业智能官
4+阅读 · 2019年8月30日
深度学习局限何在?图网络的出现并非偶然
机器之心
6+阅读 · 2019年1月24日
Yann LeCun:深度学习已死,可微分编程万岁!
高二进清华,大二开公司,29岁登上福布斯亚洲领袖人物榜
人工智能机器人联盟
5+阅读 · 2017年11月18日
观点 | 计算机视觉,路在何方
微软研究院AI头条
6+阅读 · 2017年6月21日
Arxiv
5+阅读 · 2018年10月11日
Labeling Panoramas with Spherical Hourglass Networks
Arxiv
22+阅读 · 2018年8月30日
Arxiv
3+阅读 · 2018年3月27日
VIP会员
相关VIP内容
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
209+阅读 · 2020年4月26日
Python数据分析:过去、现在和未来,52页ppt
专知会员服务
99+阅读 · 2020年3月9日
【综述】金融领域中的深度学习,附52页论文下载
专知会员服务
161+阅读 · 2020年2月27日
机器翻译深度学习最新综述
专知会员服务
97+阅读 · 2020年2月20日
MIT-深度学习Deep Learning State of the Art in 2020,87页ppt
专知会员服务
61+阅读 · 2020年2月17日
最新!Yann Lecun 纽约大学Spring2020深度学习课程,附PPT下载
2019->2020必看的十篇「深度学习领域综述」论文
专知会员服务
269+阅读 · 2020年1月1日
复旦大学邱锡鹏老师《神经网络与深度学习》书册最新版
相关资讯
Top
微信扫码咨询专知VIP会员