全连接层如何转化为全卷积层

       全连接网络其实和卷积网络是等价的，全连接层就可以转化维卷积层，只不过这个卷积层比较特殊，称之为全卷积层，下面举一个简单的例子来说明全连接层如何转化为全卷积层。

图一

 

        由图一所示，我们假定要将一个2*2*1的feature map通过全连接层输出一个4维向量，图中的矩阵X便是这2*2*1的feature map，向量Y就是输出的4维向量，全连接层的做法便是将feature map由矩阵形式展开成向量形式，该向量便是全连接层的输入。

图二

       如图二所示，全连接层的运算就是矩阵运算，输出向量Y就是由权重矩阵W乘展开成向量的X'，我们可以看到，对于每一个yi，都是由权重矩阵的第i行与X'对应元素相乘，这个相乘的过程和用权重矩阵的第i行所构成的卷积核去卷积X会产生一样的结果。

图三

       那么将2*2*1的feature map通过全连接层得到4维向量就相当于以全连接层中的权重矩阵中的四行向量所组成的4个卷积核去卷积2*2*1的feature map，此时的卷积核的大小就和feature map的大小一样，因此称之为全卷积，全卷积最终得到1*1*4的矩阵，这个4维向量效果是一样的。