TPAMI 2018论文快读

ThiNet: Pruning CNN Filters for a Thinner Net

本篇文章是ICCV2017一篇论文的扩展


1)文章需要解决的问题

传统CNN为了提高精度,绞尽脑汁的增加网路深度和宽度;

虽然精度提升了,但是效率大大降低;

而部分研究表明:网络中实际会有很多没有用的特征图;

所以该文章研究:怎么找到这些没有用的图,然后丢弃产生这些特征图的卷积运算,给模型瘦身



2)文章的核心思想

ThinNet的核心思想在于这个三个公式

1)第一个公式:可以认为是在特定 C通道输入,某一特定位置做卷积;

2)第二个公式,就是常规卷积的表达形式:将所有通道输入的卷积做累加

3)第三个公式:就是找到某一组通道集合S,可以使得只累加这S个通道,得到相当于累加所有通道的结果;这样其它通道以及对应的卷积模板都可以丢弃;


3)那么难点在于,怎么找到这样一个集合S????

文中是这么说的:

1)一次往S里添加一个通道,

2)这个通道是遍历所有剩下通道后,把那个复现最好的通道选上去;

发布于 2018-11-21 23:35