Week 3 Convolutional Neural Network

目录

一、卷积神经网络介绍（CNN）

二、卷积层（convolutional layer）

三、池化层（Pooling layer）

四、全连接层（也可称softmax layer）

五、CNN中常见的两个问题covariate shift和Internal covariate shift（ICS）

六、Batch Normalization（用来加速网络收敛及防止梯度消失等神经网络常见的问题）—— 一般用在输入层之后

七、一个CNN例子-CNN举例–识别一个车

六、影响CNN性能的因素

七、CNN的优缺点

八、三大神经网络的优缺点（课堂讨论过的题目）

---

一、卷积神经网络介绍（CNN）

1、什么是卷积

对图像矩阵和滤波矩阵做内积（逐个元素相乘再求和）

 中间滤波器filter与数据窗口做内积，其具体计算过程则是：

4*0 + 0*0 + 0*0 + 0*0 + 0*1 + 0*1 + 0*0 + 0*1 + -4*2 = -8

对于一维、二维、三维的卷积我们有如下的公式：

2、CNN基本结构
（1）输入层

（2）卷