图片分类
cat or dog?
全连接网络参数过多(尤其是对于尺寸大的图片而言)以及由于目标对象位置不一定在某一个特定区域内的,而全连接网络不能分辨对象在不同位置时候的情况,所以就有了卷积神经网络。
卷积神经网络
卷积神经网络(Convollution Neural Network, CNN)是深度学习技术中极具代表性的网络结构之一,在图像处理领域取得了极大的成功。
卷积层
泛函分析中,卷积(convolution)是通过两个函数f和g生成第三个函数的一种算子,表征函数f和g经过翻转和平移的重叠部分的面积。
深度学习中,卷积的操作是在两个矩阵间进行的,并且不需要翻转。
局部感受野的结构特点能够帮助CNN识别图像中的空间信息,另一方面卷积神经网络中权值共享(shared weights and biases)的方式能够有效减少训练参数。
池化层
卷积神经网络另外一个重要的结构就是池化层,通常放在卷积层后用于对输出数据进行下采样,来简化卷积层中输出的信息。
卷积层+池化层
平移不变性
CNN特点
- 共享权值和偏差、池化的使用能够有效的减少训练参数
- 卷积层的层次特点能够帮助很好的提取图片特征
- 具有平移、缩放、扭曲不变性
- 计算量相对于全连接神经网络要少很多