CNN改进

稀疏性池化 - ASPP（空洞空间金字塔池化）

空洞卷积 VS 普通卷积

在Kernel size=3，Stride=1时：普通卷积感受野为33，每次移动一个像素，遍历卷积所有像素点；Hole size=2的空洞卷积感受野为55，虽然同为3*3卷积核，但空洞卷积每个卷积点间隔为Hole size，因此当Hole size=1时，空洞卷积与普通卷积相同；当Hole Size越大，空洞卷积的感受野越大。（Hole size即为rate）

空洞卷积优势：

1. 扩大感受野：传统的下采样虽可增加感受野，但会降低空间分辨率。而使用空洞卷积能够在扩大感受野的同时，保证分辨率。这十分适用于检测、分割任务中，感受野的增大可检测、分割大的目标，高分辨率则可精确定位目标。
2. 捕获多尺度上下文信息：空洞卷积中参数 dilation rate 表明在卷积核中填充 (dilation rate-1) 个 0。设置不同 dilation rate 给网络带来不同的感受野，即获取了多尺度信息。

空洞卷积不足：

1. 局部信息丢失：由于空洞卷积的计算方式类似于棋盘格式，某一层得到的卷积结果，来自上一层的独立的集合，没有相互依赖，因此该层的卷积结果之间没有相关性，即局部信息丢失；
2. 远距离获取的信息没有相关性：由于空洞卷积稀疏的采样输入信号，使得远距离卷积得到的信息之间没有相关性。

ASPP结构

不同rate的空洞卷积相当于用相同大小卷积核，以不同稀疏程度对图片进行卷积。其中的1 × 1卷积，论文中的解释是当 rate = feature map size 时，dilation conv 就变成了 1 ×1 conv，所以这个 1 × 1 conv相当于rate很大的空洞卷积。Image Pooling使用全局池化获取图像全局信息，增加图像级特征。
为了使每种特征输出维度一致，以1 × 1卷积为标准，每种空洞卷积加对应padding，ImagePooling池化后进行上采样，使每种特征输出维度等于原始图像维度。
最后将5种特征拼接起来，用1*1卷积将通道数降低至预期值。

参考

ASPP - 空洞空间金字塔池化
SPP、空洞卷积与ASPP总结

带权重通道 - Squeeze-and-Excitation (SE)

SENet的全称是Squeeze-and-Excitation Networks，中文可以翻译为压缩和激励网络。主要由两部分组成：

1. Squeeze部分。即为压缩部分，原始feature map的维度为HWC，其中H是高度（Height），W是宽度（width），C是通道数（channel）。Squeeze把HWC压缩为11C，相当于把HW压缩成一维了，实际中一般是用global average pooling实现的。HW压缩成一维后，相当于这一维参数获得了之前H*W全局的视野，感受区域更广。
2. Excitation部分。得到Squeeze的11C的表示后，加入一个FC全连接层（Fully Connected），对每个通道的重要性进行预测，得到不同channel的重要性大小后再作用（激励）到之前的feature map的对应channel上，再进行后续操作。
   
   其中SERatio是一个缩放参数，这个参数的目的是为了减少通道个数从而降低计算量。 第一个全连接层有C*SERatio个神经元，输入为1×1×C，输出1×1×C×SERadio。 第二个全连接层有C个神经元，输入为1×1×C×SERadio，输出为1×1×C。
3. 最后是scale操作，在得到1×1×C向量之后，就可以对原来的特征图进行scale操作了。很简单，就是通道权重相乘，原有特征向量为W×H×C，将SE模块计算出来的各通道权重值分别和原特征图对应通道的二维矩阵相乘，得出的结果输出。

SE优势

SE模块主要为了提升模型对channel特征的敏感性，这个模块是轻量级的，而且可以直接应用在现有的网络结构中，只需要增加较少的计算量就可以带来性能的提升。

参考

Squeeze-and-Excitation (SE) 模块优势解读