李宏毅深度学习课程笔记 -卷积神经网络

1、卷积神经网络特适合image处理，其设计理念：

现象1：

现象2：

现象3：

总结summary：

(1)对于图像中的patterns(比如猫的耳朵，嘴巴等)，通常比整张图像小很多。神经网络的每一个neuron，相当于一个basic classifier，只对其识别的pattern激活。故设计卷积神经网络处理图像时，设计每一层卷积包含多个卷积核filter，每一个filter负责识别一个pattern。其实卷积层的每一个filter相当于full connect layer的一个neuron;

(2)相同的pattern在不同的图像中出现的位置不一样，但本质上他们是同样的pattern，可以使用相同的filter进行检测，这就产生了卷积神经网络设计中的卷积核权值共享；

(3)下采样操作并不会改变object，故引入pooling来减少计算量。

2、filter的理解：

上面filter的斜对角是1,1,1, 它的工作就是就是检测在图像中有没有从左上到右下是1,1,1的连续值，由内积结果可以知道，左上角和左下角出现最大值，那么在图像的左上角和左下角出现从左上到右下是1,1,1的连续值。