全连接层和卷积层如何相互转化？

两者相互转换的可能性：

全连接层和卷积层之间唯一的不同就是卷积层中的神经元只与输入数据中的一个局部区域连接，且参数共享。然而不管在卷积和FC层中，神经元都是计算点积，所以它们的函数形式是一样的。因此，将此两者相互转化是可能的：

（1）对于任一个卷积层，都存在一个能实现和它一样的前向传播函数的全连接层。权重矩阵是一个巨大矩阵，除了某些特定块，其余部分都是零。而在其中大部分块中，元素都是相等的。

（2）任何全连接层都可以被转化为卷积层，比如VGG16中第一个全连接层是250884096的数据尺寸，将它转化为512774096的数据尺寸，输入数据的尺寸是77512，这个FC层可以被等效的看作一个F=7，P=0，S=1，K=4096的卷积层。换句话说，就是将卷积核的尺寸设置为与输入数据一样大，这样输出就变为114096，本质上和全连接层的输出是一样的。

输出数据第三通道深度是由卷积核的数目决定的

在两种变换中，将FC转化为conv在实际运用中更加有用，假设一个卷积神经网络的输入是2272273的图像，一系列的卷积层和下采样层将图像数据变为尺寸为77512的数据，AlexNet中处理方式是使用了两个尺寸为4096的FC，最后一层为1000个神经元的FC层运用softmax输出计算分类评分。我们可以将这3个FC层中的任意一个转为conv：

（1）第一个连接区域是[77512]的全连接层，令其卷积核为774096，输出数据尺寸为114096

（2）第二个FC层，令其卷积核的尺寸为114096，这样输出数据的尺寸为114096

（3）最后一个FC也做类似的处理，令其卷积核尺寸为111000，则输出数据尺寸为111000