聊一聊CV中的局部连接与参数共享

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

---

前言

无意间思考了一下这个问题。为啥局部连接和参数共享在CNN中可以work？

一、局部连接是什么？

不多废话，一张图清晰明了的解释了啥是局部连接

二、参数共享是什么？

上图中显然参数是不共享的。

这张图也清晰的解释了啥是参数共享。

三、为啥要进行这两个操作？

两者的一个关键作用就是减少参数数量。

四、为啥这两个操作可以work？

卷积网络在设计的时候主要依靠滤波器的想法，多个滤波器从不同角度获得不同的特征，特征之间加权，得到深层特征，利用这些特征就可以用来分类和回归。

传统的图像处理中有很多需要手工设计的算子，滤波器。然而通过局部连接和参数共享这两个方法产生的卷积核就像是一个个的滤波器。通道数越多意味着你这个层级有越多的滤波器，可以获的更加多样的相同层级的特征。

通过一层一层的“滤波器”，每层“滤波器”会学习到通用的特征出来。通过对这些通用的特征最后进行整合（FC层），从而达到对图像进行分类识别的目的。

五、一些额外的思考？

• 由于共享权重的原因，因此多分支模型可以获取更多频域的信息。例如ResNext,Xception等。同时加宽网络同样有利于提高网络特征提取能力
• 由于局部连接的原因，cnn大量使用小的卷积核。导致网络更倾向于以小的纹理信息来对图像进行识别。无法很好的建立全局信息的关系。这一点transformer似乎更有优势