活动地址:CSDN21天学习挑战赛
介绍
LeNet 是由Y.Lecun等人在1998年提出的第一个真正的卷积神经网络,现在的LeNet现在主要指LeNet5,其主要特点是卷积层和下采样层相结合作为网络的基本结构,其包括3个卷积层和2个下采样层和2个全连接层。最初设计LeNet的目的是识别手写字符和打印字符,效果非常好,曾被广泛应用于美 国银行支票手写体识别,取得了很大成功 。
网络结构
结构解释:
- C1层是卷积层,有6个通道,是由输入图像经过6个5x5的卷积核对输入图像卷积得到。
- S1层是一个下采样层,有6个通道,是由C1层的特征图经过2x2,步长为2的窗口进行平均池化,在利用sigmoid激活函数变换得到。
- C3是卷积层,有16个通道,是由16个5x5的卷积核对S2进行卷积得到。
- S4是一个下采样层,有16个通道,是由C3层的特征图经过2x2,步长为2的窗口进行平均池化,在利用sigmoid激活函数变换得到。
- C5是卷积层包含120个特征图,是由120个5x5的卷积核对S2进行卷积得到。
- F6是包含84个神经元的全连接层,采用双曲正切激活函数。
- output是输出层有10个神经元。
网络流程:
- k_size:代表卷积核的大小
- k_num:代表卷积的数量
- s:代表步长大小
计算公式介绍:
- 卷积计算公式:
(n + 2p - k_size) / s + 1
其中:n为输入图片大小
p 为padding大小;如果没有就为0;
- 上述流程中比较特殊的地方是从AvgPool4到Conv5的过程,输入特征图大小和卷积核大小相同,得到一维数据。
总结:
LetNet作为最早的卷积神经网络,其特点层数少,参数少,训练快;该模型虽然比较小但是具备了一个真正神经网络该有的东西(麻雀虽小五脏俱全),在手写字识别有较好的效果。