空洞卷积、可分组卷积

空洞（扩张）卷积--------Dilated Convolution

空洞卷积（atrous convolutions）又名扩张卷积（dilated convolutions），在ICLR 2016上提出，其主要作用：
在不增加参数和模型复杂度的条件下，可以指数倍的扩大视觉感受野（每一个输出是由诗句感受野大小的输入决定的）的大小。是针对图像语义分割问题中下采样会降低图像分辨率、丢失信息而提出的一种卷积思路。利用添加空洞扩大感受野，向卷积层引入了一个称为“扩张率（dilate rate）”的超参数，该参数定义了卷积核处理数据时各值的间距。

空洞卷积是对卷积核的操作，在参数数量不变的情况下，具有更大的感受野。

空洞卷积诞生于图像分割领域，图像输入到网络中经过CNN提取特征，再经过pooling降低图像尺度的同时增大感受野。

由于图像分割是pixel-wise预测输出，所以还需要通过upsampling将变小的图像恢复到原始大小。upsampling通常是通过deconv（转置卷积）完成。因此图像分割FCN有两个关键步骤：

• 池化操作增大感受野
• upsampling操作扩大图像尺寸。

缺点：
虽然经过upsampling操作恢复了大小，但是很多细节还是被池化操作丢失了。