【IJCAI】大规模可扩展深度学习,82页ppt

2021 年 1 月 10 日 专知

人工智能的一个基本任务是学习。深度神经网络已经被证明可以完美地处理所有的学习范式,即有监督学习、无监督学习和强化学习。然而,传统的深度学习方法利用云计算设施,不能很好地扩展到计算资源低的自治代理。即使在云计算中,它们也受到计算和内存的限制,不能用来为假设有数十亿神经元的网络的代理建立适当的大型物理世界模型。这些问题在过去几年中通过可扩展深度学习的新兴主题得到了解决,该主题在训练之前和整个过程中利用了神经网络中的静态和自适应稀疏连接。本教程将分两部分介绍这些研究方向,重点是理论进展、实际应用和实践经验。


https://sites.google.com/view/ijcai2020-sparse-training/home



专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“SDL82” 可以获取《【IJCAI】大规模可扩展深度学习,82页ppt》专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

LinkedIn《贝叶斯优化推荐系统》,IJCAI报告,142页ppt
专知会员服务
51+阅读 · 2021年1月11日
【NeurIPS 2020】近似推断进展,272页ppt
专知会员服务
32+阅读 · 2020年12月11日
最新《深度卷积神经网络理论》报告,35页ppt
专知会员服务
45+阅读 · 2020年11月30日
专知会员服务
306+阅读 · 2020年11月24日
【EMNLP2020】序列知识蒸馏进展,44页ppt
专知会员服务
38+阅读 · 2020年11月21日
【ICML2020】强化学习中基于模型的方法,279页ppt
专知会员服务
43+阅读 · 2020年10月26日
【ECAI2020】可扩展深度学习: 理论与算法,120页ppt
专知会员服务
27+阅读 · 2020年9月25日
深度强化学习策略梯度教程,53页ppt
专知会员服务
176+阅读 · 2020年2月1日
Talking-Heads Attention
Arxiv
15+阅读 · 2020年3月5日
Arxiv
6+阅读 · 2019年4月8日
Arxiv
7+阅读 · 2018年12月26日
Arxiv
12+阅读 · 2018年1月28日
Arxiv
3+阅读 · 2017年12月18日
Arxiv
6+阅读 · 2017年12月7日
VIP会员
相关VIP内容
LinkedIn《贝叶斯优化推荐系统》,IJCAI报告,142页ppt
专知会员服务
51+阅读 · 2021年1月11日
【NeurIPS 2020】近似推断进展,272页ppt
专知会员服务
32+阅读 · 2020年12月11日
最新《深度卷积神经网络理论》报告,35页ppt
专知会员服务
45+阅读 · 2020年11月30日
专知会员服务
306+阅读 · 2020年11月24日
【EMNLP2020】序列知识蒸馏进展,44页ppt
专知会员服务
38+阅读 · 2020年11月21日
【ICML2020】强化学习中基于模型的方法,279页ppt
专知会员服务
43+阅读 · 2020年10月26日
【ECAI2020】可扩展深度学习: 理论与算法,120页ppt
专知会员服务
27+阅读 · 2020年9月25日
深度强化学习策略梯度教程,53页ppt
专知会员服务
176+阅读 · 2020年2月1日
相关论文
Talking-Heads Attention
Arxiv
15+阅读 · 2020年3月5日
Arxiv
6+阅读 · 2019年4月8日
Arxiv
7+阅读 · 2018年12月26日
Arxiv
12+阅读 · 2018年1月28日
Arxiv
3+阅读 · 2017年12月18日
Arxiv
6+阅读 · 2017年12月7日
Top
微信扫码咨询专知VIP会员