算法培训五

1.如何理解卷积层和池化层？

 2.激活函数的作用是什么？

在卷积神经网络中来思考，卷积层的激活函数的意义在于这一块区域的特征强度如果没有达到一定的标准，就输出0，表明这种特征提取方式（卷积核w）不能在该块区域提取到特征，或者说这块区域的这种特征很弱。由于输出0时，激活函数梯度几乎都为0，所以在特征很弱的区域，梯度几乎不下降，也就是说，和该特征无关的区域不会影响到该特征提取方式的训练。

反过来说，如果没有激活函数，就算特征很弱时，仍然可以得到输出，后面的层次继续把这个输出当成一个特征使用，这是不合理的。为了形象起见，我们做个比喻，本来我们可能希望在这个区域看到一个圆形，但是这里却是一个三角形，如果该三角形和我们期望看到的圆形形状相差很大的时候神经元的输出WX+B很小，我们就不希望输出值去衡量这个三角形有多不圆，而是希望输出这里没有一个圆形（对于分类问题而言，有多不圆对于我们的分类没有意义，因为我们是通过了解到形状的组合来判定人脸属于哪一类，验证问题同理）。

3.一个用卷积神经网络的实例

• 深度学习（手写数字识别可视化）

• 

• 1、把手写字体图片转换成像素矩阵
• 2、对像素矩阵进行第一层卷积运算，生成六个feature map
• 3、对每个feature map进行下采样（也叫做池化），在保留feature map特征的同时缩小数据量。生成六个小图，这六个小图和上一层各自的feature map长得很像，但尺寸缩小了。
• 4、对六个小图进行第二层卷积运算，生成更多feature map
• 5、对第二次卷积生成的feature map进行下采样
• 6、第一层全连接层
• 7、第二层全连接层
• 8、高斯连接层，输出结果

4.用猫狗分类的算法出现问题，改用其他图像分类算法

• 找到水果图像分类算法

  

• 进行训练

  

• 进行预测
• 
• 
• 这里预测的结果有问题，是因为改了学习率