论文:Gradient-Based Learning Applied to Document Recognition
一、前言
LeNet-5出自论文Gradient-Based Learning Applied to Document Recognition,是一种用于手写体字符识别的非常高效的卷积神经网络。
LeNet5 这个网络虽然很小,但是它包含了深度学习的基本模块:卷积层,池化层,全链接层。是其他深度学习模型的基础。
LeNet-5共有7层,不包含输入,每层都包含可训练参数;每个层有多个Feature Map,每个FeatureMap通过一种卷积滤波器提取输入的一种特征,然后每个FeatureMap有多个神经元。
–C层代表的是卷积层,通过卷积操作,可以使原信号特征增强,并降低噪音。
–S层是一个下采样层,利用图像局部相关性的原理,对图像进行子抽样,可以减少数据处理量,同时也可保留一定的有用信息。
二、 设计思想
所谓卷积网络设计的思想,一共有三方面:
1)局部感受野(local receptive fields): 基于图像局部相关的原理,保留了图像局部结构&#