介绍
卷积神经网络(CNN)是多层感知器(MLP)的生物学启发变异。CNN中的神经元共享权重,与MLP不同,其中每个神经元具有单独的权重向量。这种权重的共享最终减少了可训练重量的总数,从而引入了稀疏性。
利用权重共享策略,神经元能够对数据进行卷积,其中卷积滤波器由权重形成。然后进行汇集操作,该汇集操作作为非线性下采样的形式,逐渐减小表示的空间大小,从而减少网络中的计算量和参数。
卷积和池化层之间存在激活函数,例如ReLu层; 在元素方面应用非饱和激活,即阈值处理为零。在几个卷积和池化层之后,图像尺寸(特征图尺寸)减小并且提取更复杂的特征。F(x )= m a x (0 ,x )f(x)=max(0,x)
最终使用足够小的特征图,将内容压缩成一维向量并馈入完全连接的MLP进行处理。这个完全连接的MLP的最后一层被视为输出,是一个损耗层,用于指定网络训练如何惩罚预测标签和真实标签之间的偏差。
前向传播
反向传播
核变换