SKNet论文记录

摘要

在标准的卷积网络中，每层网络中神经元的感受野大小都是相同的。在神经学中，视觉神经元感受野的大小是由刺激机制调节的，而卷积神经网络却很少考虑这个因素。本文提出的方法可以使神经元对不同尺寸的输入信息进行自适应的调整其感受野大小。设计了一个选择性内核的单元SK的构建块，其中多个具有不同内核大小的分支在这些分支中信息引导下，使用softmax进行融合。分支中不同注意力产生不同的有效感受野。由多个SK单元组成SKNet，SKNet中的神经元能够捕获不同尺寸的目标物体。

介绍

卷积核经常被看作在局部感受野上，将空间信息和特征维度信息进行聚合的信息聚合体。
在上个世纪猫的前视觉皮层神经元的局部感受野激发了卷积网络的产生。在视觉皮层中，相同区域的神经元的局部感受野的大小是不同的，从而可以在相同的处理阶段获得不同尺寸的空间信息。该思想叫Inception的系列完美应用，在其building block中，3 * 3，5 * 5，7 * 7的卷积通过简单的拼接来得到多尺寸的信息。
然而在设计卷积网络时，神经元感受野的其他属性并没有被考虑到。比如感受野尺寸的自适应调整。大量实验证明，视觉皮层的神经元的感受野尺寸是受刺激调制的。像Inception这种具有多个分支的网络其内部存在一种潜在机制可以在下一个卷积层根据输入的内容调整神经元感受野的大小，这是因为下一个卷积层通过线性组合将不同分支的特征进行融合，但是线性组合的方法不足于提供网络强大的调整能力。
本文提出了一种非线性的方法融合来自不同核的特征进而实现感受野不同尺寸的调整,引入了Seletive Kernel卷积。SK的灵感来源是，我们看到尺寸不同，远近不同的物体时，视觉皮层