Selective Kernel Networks|SKNet网络结构概要解读

---

论文
Code

SKNet出发点：构建一种模型，使网络可以根据输入信息的多个尺度自适应的调节接受域大小

摘要

我们在中枢神经系统中提出了一种动态选择机制，允许每个神经元基于多尺度的输入信息自适应地调整其感受野大小。设计了一种称为选择性核单元的构造块，其中使用由这些分支中的信息引导的softmax注意力来融合具有不同核大小的多个分支。对这些分支的不同关注在融合层产生不同大小的神经元有效感受野。多个存储单元堆叠成一个深度网络，称为选择性核心网络。详细分析表明，SKNet中的神经元可以捕捉不同尺度的目标对象，验证了神经元根据输入自适应调整感受野大小的能力。

介绍

在本文中，我们提出了一种非线性方法来聚合来自多个核的信息，以实现神经元的自适应射频大小。我们引入了一种“选择性核”卷积，它由三个算子组成:分裂、融合和选择。分裂算子产生多个具有不同内核大小的路径，这些路径对应于不同射频大小的神经元。融合操作符组合和聚合来自多个路径的信息，以获得选择权重的全局和全面的表示。选择操作符根据选择权重聚合不同大小核的特征映射。
为了验证所提出的模型确实具有调整神经元射频大小的能力，我们通过放大自然图像中的目标对象和缩小背景来模拟刺激，以保持图像大小不变。发现当目标对象越来越大时，大多数神经元越来越多地从较大的核路径中收集信息。这些结果表明，所提出的SKNet中的神经元具有自适应的射频大小，这可能是该模型在对象识别方面的优异性能的基础。

结构