深度学习的相关基础概念和重要点 LENET5

• 池化层
  即下采样层，池化操作就是图像的resize，池化层用的方法有Max pooling 和 average pooling，而实际用的较多的是Max pooling。
  

• 过拟合

• 模型泛化能力

 

 

 

LENET5算法结构

如下图所示，需要注意几点：
（1）全连接层，一个结果是上一层所有元素的加权求和，这里权即训练参数；
（2）卷积层，第二个卷积层的结果是上一层某几个元素卷积后进行相加，没有权；第三个卷积层的结果是上一层所有元素卷积后进行相加，也没有权；这里的权存在于卷积核上面。