深度学习第五讲——卷积神经网络（CNN）学习笔记

卷积神经网络学习笔记

一、深度学习概述

        深度学习是机器学习的一种基于对数据进行表征学习的方法，但深度学习的基础是神经网络，对更为复杂的模型进行分析，从而使模型对数据的理解更加深入。此外深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。要想入门深度学习，就必须了解卷积神经网络（CNN）的原理和用法。

二、卷积神经网络

       1. CNN的原理

        与传统的机器学习算法不同，CNN面对的不再是每个像素点，通过像素点对图像处理，而是整个图像，通过应用卷积的方法对图像进行特征点提取，再通过多层的重复提取，最后对所提取的特征进行分析，从而完成所给目标，实现任务。

        CNN分为三个部分，输入层、隐含层、输出层。

        输入层和输出层较为简单，我们先来谈谈隐含层。

        2.隐含层

        隐含层是CNN中处理图像的部分。主要由三部分构成：卷积，池化，激活。

图1.卷积神经网络可视化显示

        卷积层：用不同的卷积核对原图进行卷积运算，将原图特征提取出来。卷积操作的参数有卷积核的大小及内容的确定，移动步长，卷积核的个数等。

        示例图：

        当图像为三通道彩色图像时，卷积核也应该为3x3x3,示例图：

        注：卷积计算方法，对应数字相乘并相加。

        池化层：即下采样，将计算结果以固定步长进行下采样，减少数据量，防止过拟合，加快运算速度。包含平均池化和最大池化两种方式。

        示例图：

        激活层：引入非线性因素。一般常用的激活函数为ReLU（将小于0的部分归零，大于0的部分保留）

        示例图：

        3.输出层        

           通过全连接的方式，将提取出的特征进行分析，通过按照不同的权重值，将各个特征加和在一起，进行分析，从而得出结果。

        示例图：

        4.优缺点

        优点：

        共享卷积核，优化计算量；

        无需手动选取特征，训练好权重，即得特征；

        深层次的网络抽取图像信息丰富，表达效果好。

        缺点：

        需要调参，需要大样本量， GPU等硬件依赖；

        物理含义不明确（可解释性不强）。

        5.实操的一般步骤

        1.构建框架        2.喂数据        3.自动调参

        

三、总结

        学习完后，大致了解了CNN的原理和基本用法，但是对实际应用还是一窍不通的程度，需要对代码进行学习。