摘要: 近年来, 卷积神经网络(Convolutional neural network, CNNs)在计算机视觉、自然语言处理、语音识别等领域取得了突飞猛进的发展, 其强大的特征学习能力引起了国内外专家学者广泛关注.然而, 由于深度卷积神经网络普遍规模庞大、计算度复杂, 限制了其在实时要求高和资源受限环境下的应用.对卷积神经网络的结构进行优化以压缩并加速现有网络有助于深度学习在更大范围的推广应用, 目前已成为深度学习社区的一个研究热点.本文整理了卷积神经网络结构优化技术的发展历史、研究现状以及典型方法, 将这些工作归纳为网络剪枝与稀疏化、张量分解、知识迁移和精细模块设计4个方面并进行了较为全面的探讨.最后, 本文对当前研究的热点与难点作了分析和总结, 并对网络结构优化领域未来的发展方向和应用前景进行了展望.

成为VIP会员查看完整内容
78

相关内容

专知会员服务
111+阅读 · 2020年8月22日
专知会员服务
216+阅读 · 2020年8月1日
深度学习目标检测方法综述
专知会员服务
255+阅读 · 2020年8月1日
专知会员服务
72+阅读 · 2020年5月21日
轻量级神经网络架构综述
专知会员服务
93+阅读 · 2020年4月29日
3D目标检测进展综述
专知会员服务
185+阅读 · 2020年4月24日
卷积神经网络的概述论文:分析、应用和展望,21页pdf
专知会员服务
89+阅读 · 2020年4月7日
注意力机制模型最新综述
专知会员服务
259+阅读 · 2019年10月20日
深度神经网络模型压缩与加速综述
专知会员服务
125+阅读 · 2019年10月12日
硬件加速神经网络综述
计算机研究与发展
23+阅读 · 2019年2月1日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
AI综述专栏 | 深度神经网络加速与压缩
人工智能前沿讲习班
30+阅读 · 2018年10月31日
干货 | 深度学习之卷积神经网络(CNN)的模型结构
机器学习算法与Python学习
12+阅读 · 2017年11月1日
CNN模型压缩与加速算法综述
微信AI
6+阅读 · 2017年10月11日
干货|CNN 模型压缩与加速算法综述
全球人工智能
8+阅读 · 2017年8月26日
CNN 模型压缩与加速算法综述
机器学习研究会
15+阅读 · 2017年8月25日
Arxiv
15+阅读 · 2019年6月25日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Arxiv
19+阅读 · 2018年6月27日
VIP会员
相关VIP内容
专知会员服务
111+阅读 · 2020年8月22日
专知会员服务
216+阅读 · 2020年8月1日
深度学习目标检测方法综述
专知会员服务
255+阅读 · 2020年8月1日
专知会员服务
72+阅读 · 2020年5月21日
轻量级神经网络架构综述
专知会员服务
93+阅读 · 2020年4月29日
3D目标检测进展综述
专知会员服务
185+阅读 · 2020年4月24日
卷积神经网络的概述论文:分析、应用和展望,21页pdf
专知会员服务
89+阅读 · 2020年4月7日
注意力机制模型最新综述
专知会员服务
259+阅读 · 2019年10月20日
深度神经网络模型压缩与加速综述
专知会员服务
125+阅读 · 2019年10月12日
相关资讯
硬件加速神经网络综述
计算机研究与发展
23+阅读 · 2019年2月1日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
AI综述专栏 | 深度神经网络加速与压缩
人工智能前沿讲习班
30+阅读 · 2018年10月31日
干货 | 深度学习之卷积神经网络(CNN)的模型结构
机器学习算法与Python学习
12+阅读 · 2017年11月1日
CNN模型压缩与加速算法综述
微信AI
6+阅读 · 2017年10月11日
干货|CNN 模型压缩与加速算法综述
全球人工智能
8+阅读 · 2017年8月26日
CNN 模型压缩与加速算法综述
机器学习研究会
15+阅读 · 2017年8月25日
微信扫码咨询专知VIP会员