SKNet笔记

原文:深度学习技术前沿

【CV中的Attention机制】基于SENet的改进-SKNet

https://github.com/pppLang/SKNet/blob/master/sknet.py

 

论文地址：https://arxiv.org/abs/1903.06586

caffe:

• 代码地址：https://github.com/implus/SKNet

Selective Kernel Networks（SKNet）发表在CVPR 2019，SKNet是SENet的加强版，结合了SE opetator、Merge-and-Run Mappings以及attention on inception block的产物。名为SK模块, 可以自适应调节自身的感受野。

之前的SENet是对特征图的通道注意力机制的研究，而SKNet则是针对卷积核的注意力机制研究。

SK模块核心思想就是：用multiple scale feature汇总的information来channel-wise地指导如何分配侧重使用哪个kernel的表征

不同大小的感受视野（卷积核）对于不同尺度（远近、大小）的目标会有不同的效果。尽管比如Inception这样的增加了多个卷积核来适应不同尺度图像，但是一旦训练完成后，参数就固定了，这样多尺度信息就会被全部使用了（每个卷积核的权重相同）。

因此，SKNet提出了一种机制&