神经网络与卷积神经网络基础学习笔记

神经网络的结构

神经网络由输入层、隐藏层和输出层组成，输入输出层各有一个，隐藏层有很多层（形如下图）

 输入端输入数据，相当于将数据的特征输入。此特征为在人类眼中数据的特征，而计算机并不能通过这些特征进行判断，因此计算机要通过一些算法将其转换为其可以应用来进行判断的形式，而这些算法，就是在一层一层的隐藏层中实现的。

举一个例子：

如上图中，将输入的三个特征组成的向量x（一个1*3向量），根据四组不同的参数向量w（i）3*1向量，x*w（i）得到一个初步处理的1*4向量y。然后再根据四组不同的参数向量W（i）4*1向量，y*W（i）得到第二轮处理的1*4向量z。最后根据参数向量A4*1向量，z*A得到最终判分，根据判分进行判断。

以上例子是线性过程，如果是非线性的，则在每一步都要进行统一的函数映射。

神经元

以上说到了隐藏层，而每一个隐藏层都是由诸多神经元连接在一起构成的。

神经元是一个包含输入，输出与计算功能的结构，如下图所示（以求和功能为例）：

 神经元兼具计算和储存功能。计算是指神经元对输入的数据有处理计算的能力。存储是指神经元会暂存计算结果，并将其传递到下一层。

神经元连接在一起便形成了一层神经网络，以单层神经网络为例（如图）：

 卷积神经网络

如图下所示，卷积神经网络和传统神经网络有明显的区别，可以认为卷积神经网络的隐藏层是三维的，而传统神经网络每一个隐藏层是二维的。

 而这样有什么好处呢。以图像识别为例，传统神经网络以每一个像素点作为特征，而卷积神经网络是以一个区域作为特征的（因为他多一维）。如下图例子所示，他取9个像素点组成的矩阵作为一个特征区域进行识别，根据权重参数将矩阵值处理成一个特征值。

卷积神经网络的结构

卷积神经网络由输入层、卷积层、池化层和全连接层构成（如图）

 

输入层负责读入数据，

卷积层负责特征转化成特征值矩阵形式（如上文所讲）而一层一层堆叠的卷积层就实现了特征值一次一次的迭代

池化层（pool）负责从卷积层得到是特征值矩阵中取出有价值的特征值，构成更为精简的特征值矩阵（如下图例子中，从每个2*2中取最有效的一个），

 因此，卷积层与池化层一般间隔出现。一段堆积卷积层（conv）后会有池化层（pool）进行精简

 

 全连接层负责整合并做出最终输出预测。