卷积后的特征有负数吗?_卷积神经网络CNN(卷积池化、感受野、共享权重和偏置、特征图)...

一、前言

在卷积神经网络(Convolutional Neural Network,CNN)出现之前,神经网络中相邻的所有神经元之间都有连接,这称为全连接(fully-connected),如图1所示

图1 全连接(fully-connected)

这种全连接方式会带来一个问题,如图2所示,假设输入图像大小为

,隐藏层一共有

个神经元,如果采用全连接的方式的话,那一共有

条连接,即

个权重,这么多的参数,如果每个参数都是浮点类型存储,可以想象这是多么恐怖,另外,不说别的,参数那么多,模型训练时容易学习到无关紧要的特征,容易导致过拟合,即在训练集中表现得很好,而在其它数据集中表现很差,具备很差的泛化能力

然而有科学研究,人眼去观察外界时,是通过先观察物体的局部信息,然后通过这些局部信息从而获得全局信息,即识别这个物体是什么.所以根据这个原理去设计神经网络的话,每一个神经元都不需要对全局图像做感受，每个神经元只感受局部的图像区域，然后在更高层，将这些感受不同局部的神经元综合起来就可以得到全局的信息了。显然,这种连接方式大大减少了连接数目,也就是减少了权重参数

这里也就出现了我们经常说的感受野(Receptive Field),即某个神经元能看到的输入图像的区域,关于更多Receptive Field的知识我前面有专栏详细讲解它的理解和计算

玖零猴：感受野(Receptive Field)的理解与计算​zhuanlan.zhihu.com