CV中的注意力机制

它的成功主要是由于一个合理的假设，即人类的视觉不会倾向于一次性处理完整的图像;相反，人们只关注整个视觉空间的选择性部分。

[1]Spatial Transformer Network

空间注意力模型(spatial attention)：不是图像中所有的区域对任务的贡献都是同样重要的，只有任务相关的区域才是需要关心的，比如分类任务的主体，空间注意力模型就是寻找网络中最重要的部位进行处理。

STN网络(Spatial Transformer Network，通过学习输入的形变，从而完成适合任务的预处理操作，是一种基于空间的Attention模型，网络结构如下：

这里的Localization Net用于生成仿射变换系数，输入是C×H×W维的图像，输出是一个空间变换系数，它的大小根据要学习的变换类型而定，如果是仿射变换，则是一个6维向量。

[2]SCA-CNN: Spatial and Channel-wise Attention in Convolutional Networks for Image Captioning

视觉注意力机制的成功应用主要是基于一个合理的假设，即人类的视觉不会倾向于一次性的对整张图像进行处理，而是选择性的关注我们所需的部分。具体来说，比起将图像编码为静态向量，注意力可以让图像特征从当前的句子上下文演化而来，从而为杂乱的图像提供更丰富、更长的描述。因此，视觉注意可以被认为是一种动态特征提取机制，它结合了随时间变化的语境注视。[1]目前我们的特征图都是通过CNN提取得来，所以说最后的特征图是一系列视觉抽象信息的堆叠，自然就具备了空间性，多通道性和多层的性质。

 空间域——对空间进行掩码的生成，进行打分