局部连接层(Locally-Connected Layer)
locally-conv的概念来自传统ML中的模型初始化(随机树方法中每个图像的crop都对应特定的一棵树)。
参数共享这个策略并不是每个场景下都合适的。有一些特定的场合,我们不能把图片上的这些窗口数据都视作作用等同的。(特别是当卷积神经网络的输入图像是一些明确的中心结构时候。)
当图像局部相似匹配时,我们就应该期望在图片的不同位置学习到完全不同的特征。
什么时候用local-conv?什么时候用全卷积(每一个点用同一个filter)?
当数据集具有全局的局部特征分布时,也就是说局部特征之间有较强的相关性,适合用全卷积。在不同的区域有不同的特征分布时,适合用local-Conv。
典型例子就是人脸识别
在这个例子中,通常就放松参数共享的限制。
一般人的面部都集中在图像的中央,你可能期望不同的特征,比如眼睛特征或者头发特征可能(也应该)会在图片的不同位置被学习。
因此我们希望,数据窗口滑过这块区域的时候,权重和其他边缘区域是不同的。