ch2 卷积神经网络（CNN）

目录

一、fully connected network简化

（一） 感受野

（二） 参数共享

（三）pooling

二、convolutional layer

---

一、fully connected network简化

（一） 感受野

1.图像的参数：[b，h，通道数c]

2.fully connected network的缺陷：参数过大，容易过拟合

3.全部关注，关注过多——》改进后：receptive field（感受野）/filter

1）每个neuron只关注自己的感受野，只关注一部分小范围

2）不同neuron的感受野部分可以重叠

3）设置：

（1）kernel size：感受野的大小，一般是3X3

（2）stride：感受野矩阵的移动距离，一般是1或者2

（3）padding：stride设置后使得感受野超出了边界，就在边界补0

（二） 参数共享

1.如何在不同位置提取到相似特征

2.两个neuron共享参数（weight和bias）

3.常见方法：每一个感受野上的神经元都设置成相同的参数（filter1,2,3……），从而实现参数共享

（三）pooling

1.pooling不会训练数据

2.在convolution后，作用是将图片变小，可以通过划分之后得到更小的图片维度

3.max pooling：选择一个范围内的最大值

二、convolutional layer

1.convolutional layer

 优点：CNN的模型bias较大，不容易过拟合

2.过程（用下面的例子讲解）

step1：图片input

step2：3X3X1感受野，stride为1，得到64 filters

             多个filters组合成feature map

step3：得到的新的convolution是3x3x64