卷积神经网络（CNN）标准模型分析（一）

卷积神经网络的早期模型称为神经认知机，是一种生物物理模型···其中大量神经元按照一定的方式组织起来，以对视野中的交叠区域产生反应。

卷积神经网络的标准模型：
CNN最初最初是受到视觉系统的神经机制的启发，针对二维形状的识别而设计的一种多层感知器，在平移的情况下具有高度不变性。在缩放和倾斜的情况下也具有一定的不变性。

···通过对猫视觉皮层细胞的研究，提出了感受野的概念
···在感受野的基础上，提出了神经认知机模型
LeCun首次使用了权值共享技术
1998年，LeCun等人将卷积层和下采样层相结合，构成CNN的主要结构，这是现代CNN的雏形（LeNet）

卷积层也称之为检测层
下采样层又称之为池化层

从前馈网络的角度来看，卷积层和下采样层可以看做是特殊的隐含层，而其他层，除了输出层外，是普通的隐含层。这些层具有不同的计算方式，其中的权值大多需要一个学习过程来调优。
但有时卷积层也可以采用固定权值直接构造，比如说使用Gabor滤波器



内卷积的意思就是直接卷积，外卷积的意思就是补0后卷积。注意这里的矩阵B要先进行上下左右的对称变换，再和A相应的位置对应相乘。即我们学习的卷积的概念。
下采样这里定义为平均池化；
上采样这里进行了克罗内克积：如果A是一个 m x n 的矩阵，而B是一个 p x q 的矩阵，克罗内克积则是一个 mp x nq 的矩阵。