为什么用全卷积代替全连接？

之前看过这个问题，但是后来又忘记了，所以写一下加深印象

什么是全连接？

在之前的一些网络中，经常用全连接层做收尾，一般放在卷积和池化的后面

比如说最后生成的是$3\times 3\times 2$ 的特征图，需要得到10个数值的输出

那么全连接就是先将这个特征图reshape成一维的（如$18\times 1$），在用$18\times 10$个参数来生成最后的10个数值，类似下图：

什么是卷积？

这个嘛，就不谈了

卷积和全连接的关系

1. 在输入的大小正好符合全连接层接收的大小的时候，其实卷积和全连接是差不多的。
   继续用上面的例子，全连接可以看成是10个$3\times 3\times 2$ 大小的卷积核，结果也是一样的

2. 在卷积核size小于全连接的时候，卷积可以看成是全连接的子集，比如$2\times$