近年来,自适应推理因其计算效率高而受到越来越多的关注。不同于现有的工作,主要利用架构适应网络冗余设计,在本文中,我们关注的空间冗余输入样本,并提出一种新颖的分辨率自适应网络(RANet)。我们的动机是,低分辨率表示对于包含规范对象的“简单”样本的分类是足够的,而高分辨率特征对于识别一些“困难”对象是有用的。在RANet中,输入图像首先被路由到一个轻量级的子网络,这个子网络能够有效地提取粗糙的特征图,并且具有高可信度预测的样本将会很早就从这个子网络中退出。只有那些先前预测不可靠的“硬”样本才会激活高分辨率路径。通过自适应地处理不同分辨率的特征,可以显著提高RANet的计算效率。在三个分类基准测试任务(CIFAR-10、CIFAR-100和ImageNet)上的实验证明了该模型在任意时间预测设置和预算批量分类设置中的有效性。

成为VIP会员查看完整内容
21

相关内容

清华大学是中国乃至亚洲最著名的高等学府之一。其前身即1911年利用美国退还庚子赔款之退款在北京设立之清华学堂,1912年中华民国成立后改为清华学校,1928年北伐后由国民政府改制为国立清华大学。对日抗战期间西迁昆明,与北京大学、南开大学合组国立西南联合大学。1946年迁返北平复校。
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
152+阅读 · 2020年5月26日
【阿里巴巴-CVPR2020】频域学习,Learning in the Frequency Domain
图像超分辨率网络:RCAN
极市平台
7+阅读 · 2019年8月18日
【学界】虚拟对抗训练:一种新颖的半监督学习正则化方法
GAN生成式对抗网络
10+阅读 · 2019年6月9日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
【紫冬分享】基于人体骨架的行为识别
中国科学院自动化研究所
20+阅读 · 2019年1月18日
【技术分享】基于双流递归神经网络的人体骨架行为识别
机器学习研究会
5+阅读 · 2017年9月1日
Arxiv
5+阅读 · 2020年3月16日
Meta-Transfer Learning for Zero-Shot Super-Resolution
Arxiv
43+阅读 · 2020年2月27日
Arxiv
7+阅读 · 2018年9月27日
Arxiv
8+阅读 · 2018年5月21日
Arxiv
27+阅读 · 2018年4月12日
VIP会员
微信扫码咨询专知VIP会员