1*1卷积代替全连接层的含义

在某几篇博客（https://blog.csdn.net/qq_32172681/article/details/95971492）上看到了1*1卷积代替全连接层的解释，个人理解与其不同，参考了其他人的看法（https://www.zhihu.com/question/56824576、https://www.jianshu.com/p/f3ac0cc289c1）后在此留下笔记。

对于1*1卷积代替全连接这句话，其实是针对输入的feature map的尺寸为1*1时，这样1*1卷积层与全连接是等价的，卷积的chanel数就是全连接层的节点个数。这点是显然的。

然而对于输入的feature map尺寸不为1*1时，此时的卷积核尺寸应该与feature map的尺寸相同，这时的卷积才与全连接等价。

例如输入feature map 是 3 * 3 * 1024 的，此时卷积核尺寸应该也为3 * 3 * 1024， 然后设chanel数为2048，这样等价于原feature map 经过flatten后与2048个节点进行全连接。

 

那为什么要说1*1卷积代替全连接呢？

在3*3*1024的feature map被 3 * 3卷积层卷积为 1 * 1 * 2048后，此时的输入size便变成1*1了，那么接下来的1*1卷积层就与全连接等价。

 

欢迎指正。