如何评价ResNeSt：Split-Attention Networks？
关注者
245被浏览
164,548登录后你可以
不限量看优质回答私信答主深度交流精彩内容一键收藏
匿名用户
小白理解，欢迎批评指正。
两个概念：cardinality: 组。radix: 组内划分。
在输入通道维的实际操作：先把通道划分成k个组，每个组内再在通道维划分出r个更小的单元。
代码给出的操作：为了模块化，后面重组了这些已划分好的通道，利用组卷积优化计算过程。
注意力的不同：SK-Net是组间注意力。ResNeSt是组内注意力。当k=1，r=2时候的操作可能和SK-Net更接近？性能来看好用就是王道。