对于全连接层的理解

全连接层的推导

全连接层的每一个结点都与上一层的所有结点相连，用来把前边提取到的特征综合起来。由于其全相连的特性，一般全连接层的参数也是最多的。

全连接层的前向计算

下图中连线最密集的2个地方就是全连接层，这很明显的可以看出全连接层的参数的确很多。在前向计算过程，也就是一个线性的加权求和的过程，全连接层的每一个输出都可以看成前一层的每一个结点乘以一个权重系数W，最后加上一个偏置值b得到，即 。如下图中第一个全连接层，输入有50*4*4个神经元结点，输出有500个结点，则一共需要50*4*4*500=400000个权值参数W和500个偏置参数b。

下面用一个简单的网络具体介绍一下推导过程

                                                                        

其中，x1、x2、x3为全连接层的输入，a1、a2、a3为输出，根据我前边在笔记1中的推导，有

                                                      

 

可以写成如下矩阵形式：

                                                  

 

全连接层的反向传播

 

以我们的第一个全连接层为例，该层有50*4*4=800个输入结点和500个输出结点。

                                                                        

 

由于需要对W和b进行更新，还要向前传递梯度，所以我们需要计算如下三个偏导数。

 

1、对上一层的输出（即当前层的输入）求导

若我们已知转递到该层的梯度，则我们可以通过链式法则求得loss对x的偏导数。
首先需要求得该层的输出ai对输入xj的偏导数：

                                                        

再通过链式法则求得loss对x的偏导数：

                                                

上边求导的结果也印证了我前边那句话：在反向传播过程中，若第x层的a节点通过权值W对x+1层的b节点有贡献，则在反向传播过程中，梯度通过权值W从b节点传播回a节点。

若我们的一次训练16张图片，即batch_size=16，则我们可以把计算转化为如下矩阵形式。

 

2、对权重系数W求导

 

我们前向计算的公式如下图，

由图可知，所以：。

 

当batch_size=16时，写成矩阵形式：

 

3、对偏置系数b求导

由上面前向推导公式可知，

 

即loss对偏置系数的偏导数等于对上一层输出的偏导数。

当batch_size=16时，将不同batch对应的相同b的偏导相加即可，写成矩阵形式即为乘以一个全1的矩阵：

-----------------------------------------------------------------------------------------------------------------------------------

 

接下来再主要谈谈全连接层的意义

 

连接层实际就是卷积核大小为上层特征大小的卷积运算，卷积后的结果为一个节点，就对应全连接层的一个点。

假设最后一个卷积层的输出为7×7×512，连接此卷积层的全连接层为1×1×4096。

连接层实际就是卷积核大小为上层特征大小的卷积运算，卷积后的结果为一个节点，就对应全连接层的一个点。如果将这个全连接层转化为卷积层：
1.共有4096组滤波器
2.每组滤波器含有512个卷积核
3.每个卷积核的大小为7×7
4.则输出为1×1×4096
------------------------------------------
若后面再连接一个1×1×4096全连接层。则其对应的转换后的卷积层的参数为：
1.共有4096组滤波器
2.每组滤波器含有4096个卷积核
3.每个卷积核的大小为1×1
4.输出为1X1X4096
相当于就是将特征组合起来进行4096个分类分数的计算，得分最高的就是划到的正确的类别。

或者理解为：

假设池化层得到30个12*12的特征图，通过全连接层之后，得到了1*100的向量。由于全连接层是输入中的每个结点与其下一层结点都有连接，那么使用30*100个12*12的卷积核进行卷积操作。卷积核与输入图像大小一致，卷积操作之后整个输入图像就会变成一个数值。30个特征图进行卷积操作之后得到30个值，将此30个值进行累加求和，就把30张特征图浓缩成一个数值。此操作进行100次之后会得到100个值，即1*100的向量。

全连接层的特征数特别多，计算量比较大。上述例子中卷积层包含参数个数100*30*12*12。

而全连接层的坏处就在于其会破坏图像的空间结构，
因此人们便开始用卷积层来“代替”全连接层，
通常采用1×1的卷积核，这种不包含全连接的CNN成为全卷积神经网络（FCN），
FCN最初是用于图像分割任务，
之后开始在计算机视觉领域的各种问题上得到应用，
事实上，Faster R-CNN中用来生成候选窗口的CNN就是一个FCN。
FCN的特点就在于输入和输出都是二维的图像，并且输入和输出具有相对应的空间结构，
在这种情况下，我们可以将FCN的输出看作是一张热度图，用热度来指示待检测的目标的位置和覆盖的区域。
在目标所处的区域内显示较高的热度，
而在背景区域显示较低的热度，
这也可以看成是对图像上的每一个像素点都进行了分类，
这个点是否位于待检测的目标上。

原作：Gy_Hui-HUST

链接：https://blog.csdn.net/gyh_420/article/details/7856922