论文名称:《Spatial Group-wise Enhance: Improving Semantic Feature Learning in Convolutional Networks》
论文地址:https://arxiv.org/pdf/1905.09646.pdf
代码地址:https://github.com/implus/PytorchInsight
文章目录
1 原理
卷积神经网络通过收集层次化和不同部分的语义子特征来生成复杂对象的特征表示。这些子特征通常以分组形式分布在每个层的特征向量中,代表不同的语义实体。然而,这些子特征的激活往往受到相似模式和噪声背景的空间影响,导致错误的定位和识别。我们提出了一种空间分组增强(SGE)
模块,它可以通过为每个语义组中的每个空间位置生成一个注意力因子来调整每个子特征的重要性,从而使每个单独的组可以自主增强其学习表达并抑制可能的噪声。注意力因子仅受每个组内全局和局部特征描述符之间的相似性引导,因此SGE
模块的设计非常轻量级,几乎没有额外的参数和计算。尽管只受到类别监督训练,SGE
组件在突出显示具有各种高阶语义的多个活跃区域(例如狗的眼睛、鼻子等)方面非常有效。当与流行的