智能计算系统笔记——第三章深度学习
参考:《智能计算系统》陈云霁,李玲,李威,郭崎,杜子东[著]
3.1适合图像处理的卷积神经网络
深度学习的神经网络中如果采用全连接的方式,会产生非常大规模的参数需要训练,这会使得神经网络难以训练,即使训练出来也会过拟合。
卷积神经网络(CNN)可解决上述问题:
(1)局部连接:用CNN作图像处理时,一般不需要全连接,应该考虑视觉领域信息,对局部做稠密连接即可。
(2)权重共享:CNN采用卷积核做卷积处理,一张图片的不同位置采用同样的卷积系数(权重),因为一组权重抽取图像的一种特征,可以实现权重共享。
从而卷积神经网络可以大幅减少处理图像所需的权重数量,避免了过拟合。
3.1.1卷积神经网络的组成
一般包括:
(1)卷积层(convolution layer)
(2)池化层(pooling layer)
(3)全连接层(fully connect layer)
(4)softmax层
3.1.2卷积层
(1)卷积运算
(2)卷积层检测特征
(3)边界扩充与卷积步长