卷积神经网络CNN相关知识

一、卷积神经网络的基本概念

       受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。

       卷积神经网络与普通神经网络的区别在于，卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中，一个神经元只与部分邻层神经元连接。在CNN的一个卷积层中，通常包含若干个特征平面(feature Maps)，每层特征平面由一些矩形排列的的神经元组成，一个神经元对应上一层输出的一个区域

                                   

       同一特征平面的神经元共享权值，这里共享的权值就是卷积核中的参数（掩膜中的参数），即每一个特征平面是一个卷积核的结果。就像是用一个卷积核对原图进行了一次卷积，每一步对应一个神经元，总的结构如下图

                                       

    卷积核一般以随机小数矩阵的形式初始化，在网络的训练过程中卷积核将学习得到合理的权值。共享权值（卷积核）带来的直接好处是减少网络各层之间的连接，同时又降低了过拟合的风险。子采样也叫做池化（pooling），通常有均值子采样（mean pooling）和最大值子采样（max pooling）两种形式。子采样可以看作一种特殊的卷积过程。卷积和子采样大大简化了模型复杂度，减少了模型的参数。

        未完待续