展望:模型驱动的深度学习

2018 年 1 月 23 日 人工智能学家 徐宗本

来源:《国家科学评论》

概要:近年来,深度学习在人工智能领域一系列困难问题上取得了突破性成功应用。


模型驱动的深度学习方法


近年来,深度学习在人工智能领域一系列困难问题上取得了突破性成功应用。例如用于人脸识别已高于人的正确识别率、用于语音识别与机器翻译已接近达到同声翻译和‵讲完稿出'的水平、用于围棋竞赛已达到完胜人类世界冠军的水平、用于一些疾病的诊断巳能与中、高级专业医师水平匹敌。现在,深度学习技术在信息科学各领域已无处不在、并正成为各自领域的标准方法。


尽管深度学习取得重大进展,但人们对人工神经网络拓扑与性能的对应关系仍然缺少理论上的认知,网络拓扑选择目前还是一项工程技术而并没有成为科学。这直接导致了现有深度学习多半是缺少理论基础的启发式方法。设计难、解释难、结果不可预知已成为深度学习公认的缺撼。


《国家科学评论》最近发表了西安交通大学数学与统计学院徐宗本院士、孙剑教授撰写的“Model-driven deep learning”的观点文章(National Science Review, 2017,https://doi.org/10.1093/nsr/nwx099)。这篇文章尝试解决深度学习的网络拓扑选择问题,目的是实现可设计、可解释以及结果可预期的深度学习方法。文章提出一种模型驱动与数据驱动相结合深度学习方法。众所周知,深度学习是一种标准的数据驱动型方法,它将深度网络作为黑箱依赖于大量数据解决现实问题;而模型驱动方法则是从目标、机理、先验出发首先形成学习的一个代价函数,然后通过极小化代价函数来解决问题。模型驱动方法的最大优点是只要模型足够精确,解的质量可预期甚至能达到最优,而且求解方法是确定的,但模型驱动方法的缺陷是在应用中难能精确建模,而且对建模的精确性追求通常只能是一种奢望。


模型驱动深度学习方法有效结合了模型驱动和数据驱动方法的优势,文章中给出了模型驱动深度学习的标准流程:(1)根据问题,建立模型族(Family of Models);(2)根据模型族,设计算法族(Family of Algorithms)并建立算法族的收敛性理论;(3)将算法族展开(unfold)成深度网络并实施深度学习。文中还介绍了课题组研究并实践的一系列模型驱动与数据驱动结合的深度等习方法,展现了该方法在解决实际问题上的有效性。



未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。由互联网进化论作者,计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。


未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

登录查看更多
12

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
最新《深度学习行人重识别》综述论文,24页pdf
专知会员服务
80+阅读 · 2020年5月5日
最新《可解释深度学习XDL》2020研究进展综述大全,54页pdf
基于深度学习的多标签生成研究进展
专知会员服务
140+阅读 · 2020年4月25日
卷积神经网络的概述论文:分析、应用和展望,21页pdf
专知会员服务
89+阅读 · 2020年4月7日
专知会员服务
197+阅读 · 2020年3月6日
机器翻译深度学习最新综述
专知会员服务
96+阅读 · 2020年2月20日
CCCF专栏 | 自然语言处理中的深度学习:评析与展望
中国计算机学会
8+阅读 · 2019年9月18日
【深度学习】深度学习技术发展趋势浅析
产业智能官
11+阅读 · 2019年4月13日
深度学习技术发展趋势浅析
人工智能学家
26+阅读 · 2019年4月11日
7个实用的深度学习技巧
机器学习算法与Python学习
16+阅读 · 2019年3月6日
【机器学习】机器学习:未来十年研究热点
产业智能官
16+阅读 · 2018年11月4日
迁移学习在深度学习中的应用
专知
23+阅读 · 2017年12月24日
人工智能,机器学习和深度学习之间的差异是什么?
大数据技术
6+阅读 · 2017年11月22日
CCCF专栏 | 生成式对抗网络的研究进展与展望
中国计算机学会
13+阅读 · 2017年11月17日
深度学习知识总结(一)
深度学习探索
8+阅读 · 2017年7月18日
A Survey on Bayesian Deep Learning
Arxiv
60+阅读 · 2020年7月2日
Arxiv
14+阅读 · 2020年2月6日
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
Arxiv
5+阅读 · 2019年4月8日
Arxiv
18+阅读 · 2019年1月16日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
15+阅读 · 2018年4月3日
VIP会员
相关VIP内容
最新《深度学习行人重识别》综述论文,24页pdf
专知会员服务
80+阅读 · 2020年5月5日
最新《可解释深度学习XDL》2020研究进展综述大全,54页pdf
基于深度学习的多标签生成研究进展
专知会员服务
140+阅读 · 2020年4月25日
卷积神经网络的概述论文:分析、应用和展望,21页pdf
专知会员服务
89+阅读 · 2020年4月7日
专知会员服务
197+阅读 · 2020年3月6日
机器翻译深度学习最新综述
专知会员服务
96+阅读 · 2020年2月20日
相关资讯
CCCF专栏 | 自然语言处理中的深度学习:评析与展望
中国计算机学会
8+阅读 · 2019年9月18日
【深度学习】深度学习技术发展趋势浅析
产业智能官
11+阅读 · 2019年4月13日
深度学习技术发展趋势浅析
人工智能学家
26+阅读 · 2019年4月11日
7个实用的深度学习技巧
机器学习算法与Python学习
16+阅读 · 2019年3月6日
【机器学习】机器学习:未来十年研究热点
产业智能官
16+阅读 · 2018年11月4日
迁移学习在深度学习中的应用
专知
23+阅读 · 2017年12月24日
人工智能,机器学习和深度学习之间的差异是什么?
大数据技术
6+阅读 · 2017年11月22日
CCCF专栏 | 生成式对抗网络的研究进展与展望
中国计算机学会
13+阅读 · 2017年11月17日
深度学习知识总结(一)
深度学习探索
8+阅读 · 2017年7月18日
相关论文
A Survey on Bayesian Deep Learning
Arxiv
60+阅读 · 2020年7月2日
Arxiv
14+阅读 · 2020年2月6日
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
Arxiv
5+阅读 · 2019年4月8日
Arxiv
18+阅读 · 2019年1月16日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
15+阅读 · 2018年4月3日
Top
微信扫码咨询专知VIP会员