神经网络中卷积操作小结（卷积，反卷积，空洞卷积）

首先说明一下，深度学习中常见的卷积操作和数学意义上的卷积求和是有略略区别的。深度学习中的卷积和就是对应点数相乘再相加即可，而数学中的卷积和要先进性变换再进行对应相乘相加。

                                                                           数学意义卷积求和

                                                                          神经网络卷积操作

如上图所示是神经网络中常见的卷积操作，左边的为输入数据，中间的为卷积核，右边的为输出数据。

下面小结一下我自己学习过程中接触到的集中卷积操作：

一.常规卷积

(1)valid padding（有效填充）：完全不使用填充。

(2)arbitrary padding（任意填充）：人为设定填充。

(3)half/same padding（半填充/相同填充）：保证输入和输出的feature map尺寸相同。

(4)full padding（全填充）：在卷积操作过程中，每个像素在每个方向上被访问的次数相同。

二.反卷积（又称转置卷积）

主要用于增大图像尺寸，是upsampling的一种

（1）常规反卷积（下左图）

（2）特殊反卷积（下右图）

 三.空洞卷积（atrous convolution或dilated convolution）

因为在图像分割网络中基本都要用pooling操作来扩大感受野，但是在改变图像size的过程中导致图像信息的丢失，所以有人提出在不通过pooling来增大感受野

 在空洞卷积中有个重要的参数rate，当它为1的时候和普通卷积是一样的，当它为其他大于1的数值的时候就表示我们应用中的空洞卷积，rate-1表示采样点与采样点之间的空洞个数。