CNN中一些特殊环节的反向传播（池化层+relu）

转载自：https://blog.csdn.net/qq_21190081/article/details/72871704

---

在深度学习笔记（2）——卷积神经网络（Convolutional Neural Network）中我们介绍了CNN网络的前向传播，这一篇我们介绍CNN的反向传播，讲到反向传播的时候实质就是一大堆求梯度的数学公式，这些公式其实已经在深度学习笔记（1）——神经网络(neural network)
那篇博客中介绍过了，所以这里就不再介绍。

但是传统的神经网络无论是隐层还是激活函数的导数都是可导，可以直接计算出导数函数，然而在CNN网络中存在一些不可导的特殊环节，比如Relu等不可导的激活函数、造成维数变化的池化采样、已经参数共享的卷积环节。NN网络的反向传播本质就是梯度（可能学术中会用残差这个词，本文的梯度可以认为就是残差）传递，所以只要我们搞懂了这些特殊环节的导数计算，那么我们也就理解CNN的反向传播。

Relu函数的导数计算

先从最简单的开始，Relu激活在高等数学上的定义为连续（局部）不可微的函数，它的公式为
$$Relu(x)=\{\begin{array}{ll}x& x>0\\ 0& x\le 0\end{array}$$
其在 x=0处是不可微的，但是在深度学习框架的代码中为了解决这个直接将其在 x=0处的导数置为1，所以它的导数也就变为了
$${\delta }_{Relu(x)}=\{\begin{array}{ll}1& x\ge 0\\ 0& x<0\end{array}$$
最终实现也就一个if-else语句，关于Relu激活函数的优越性，可以看 深度学习笔记（4）——Sigmoid和Relu激活函数的对比
（转载的这个博客已经过时了，现在的激活函数已经有许多新的函数了，比如leaky relu、swish等）

Pooling池化操作的反向梯度传播

CNN网络中另外一个不可导的环节就是Pooling池化操作，因为Pooling操作使得feature map的尺寸变化，假如做2×2的池化，假设那么第l+1层的feature map有16个梯度，那么第层就会有64个梯度，这使得梯度无法对位的进行传播下去。其实解决这个问题的思想也很简单，就是把1个像素的梯度传递给4个像素，但是需要保证传递的loss（或者梯度）总和不变。根据这条原则，mean pooling和max pooling的反向传播也是不同的。

1、mean pooling

mean pooling的前向传播就是把一个patch中的值求取平均来做pooling，那么反向传播的过程也就是把某个元素的梯度等分为n份分配给前一层，这样就保证池化前后的梯度（残差）之和保持不变，还是比较理解的，图示如下

2、max pooling

max pooling也要满足梯度之和不变的原则，max pooling的前向传播是把patch中最大的值传递给后一层，而其他像素的值直接被舍弃掉。那么反向传播也就是把梯度直接传给前一层某一个像素，而其他像素不接受梯度，也就是为0。所以max pooling操作和mean pooling操作不同点在于需要记录下池化操作时到底哪个像素的值是最大，也就是max id，这个可以看caffe源码的pooling_layer.cpp，下面是caffe框架max pooling部分的源码

// If max pooling, we will initialize the vector index part.
if (this->layer_param_.pooling_param().pool() == PoolingParameter_PoolMethod_MAX && top.size() == 1)
{
    max_idx_.Reshape(bottom[0]->num(), channels_, pooled_height_,pooled_width_);
  }

源码中有一个max_idx_的变量，这个变量就是记录最大值所在位置的，因为在反向传播中要用到，那么假设前向传播和反向传播的过程就如下图所示