卷积神经网络CNN---经典的LeNet5基于梯度的反向传播算法

1.概述卷积神经网络
感受野是CNN的核心，卷积核就是感受野的结构表现，LeNet5是通过交替连接的卷积层和下采样提取图像特征，并将这些特征传递给全连接神经网络。在LeNet5网络之后，提出了AlexNet–>AGG网络–>ResNet网络
卷积神经网络中的三个基本概念：
一、局部感受野，一般的神经网络是把图像中的每一个像素全连接到每一个神经元，这样会增大计算量，而卷积神经网络则是通过局部感受野把隐藏节点连接到局部的神经元，如像素为1024720，局部感受野为99，则只需要81个权值参数
二、共享权值：在CNN中一个神经元对应的权值是相同的，所以会减少训练数量。通常共享权值称为卷积核
三、池化：通常输入的图片很大或是很小，而我们只需要图片的特征，这就需要调整图片大小即通过下采样或是上采样，这样的过程为池化过程。
2.LeNet5网络
参考论文：Gradient based learning applied to document-recognition
（1）基础知识：图像为44，有4个神经元
全连接：444
局部连接：44有4个神经元，每个神经元有4个权值
卷积核：22的卷积核，结果为23
（2）LeNet网络

详细讲解见：https://blog.csdn.net/weixin_42398658/article/details/84392845
CNN详解https://www.jianshu.com/p/1ea2949c0056