摘要
- CNN模型
- 如何用Theano实现LeNet-5
- 如何使用GPU加速运行CNN
稀疏连接
CNN利用空间上的相关性来加强本地连接参数与相邻层神经元的关系。在隐层
m
中隐藏单元,是从上一层
m−1
中的子集计算而得的。具体示意图如下:
共享权重
在CNN中,每个滤波器
hi
都是从整个可视域中计算而得的。这些单元共享参数并形成了特征图。
特征图的形成是通过在整个图片中运行函数:
最大池化
最大池化是一种非线性的向下采样。最大池化的具体过程是将输入图片分割成不重叠的小方块,对于任意区域计算其最大值。
最大池化有两个作用:
- 可以减少下一层的计算量
- 可以使得算法具有形变不变形
LeNet
代码实现
原文网址
http://deeplearning.net/tutorial/lenet.html