LeNet
LeNet 诞生于 1994 年,是最早的卷积神经网络之一,并且推动了深度学习领域的发展。自从 1988 年开始,在许多次成功的迭代后,这项由 Yann LeCun 完成的开拓性成果被命名为 LeNet5。
下面是LeNet的网络结构
不计算输入层,LeNet-5一共是一个7层的神经网络。中间有提取特征的卷积层,也有降维的pooling层,最后经过三个FC全连接层得到输出。首先给出卷积&池化计算之后尺寸的计算公式
N = ( W − F + 2 P ) / S + 1 N=(W-F+2P)/S+1 N=(W−F+2P)/S+1
其中,数据维度为W*W,Filter大小为 F×F,S:步长P:padding的像素数。通过上述公式就可以计算每次卷积&池化之后的数据的尺寸情况了。下面看下几个网络中几层的情况:
C1层有6个卷积核,每个卷积核是 5 ∗ 5 5*5 5∗5的尺寸,所以经过卷积后的尺寸为 ( 32 − 5 + 0 ) / 1 + 1 = 28 (32-5+0)/1+1=28 (32−5+0)/1+1=28,有6个卷积核,则经过C1层后的输出后 6 @ 28 ∗ 28 6@28*28 6@28∗28。
S2层为降采样的pooling层,pooling层的采样层尺寸为 2 ∗ 2 2*2 2∗2的采样层,步长S为2,所以同理可以计算得到S2层的输出结果为 6 @ 14 ∗ 14 6@14*14 6@14∗