神经网络的基本作用

1. 损失函数：均方误差是回归任务中最常用的性能度量，因此我们可试图让均方误差最小化。

2. 激活函数：激活函数又称非线性映射，顾名思义，激活函数的引入是为了增加整个网络的表达能力（即非线性）。若干线性操作层的堆叠仍然只能起到线性映射的作用，无法形成复杂的函数。

3. 卷积运算：卷积是一种有效的特征提取方法。卷积是一种局部操作，通过一定大小的卷积核作用于局部图像区域获得图像的局部信息。我们现在使用三种边缘卷积核(亦称滤波器)，整体边缘滤波器、横向边缘滤波器和纵向边缘滤波器。

4. 池化：池化（Pooling）是卷积神经网络中另一个重要的概念，它实际上是一种形式的降采样。有多种不同形式的非线性池化函数，而其中“最大池化（Max pooling）”是最为常见的。它是将输入的图像划分为若干个矩形区域，对每个子区域输出最大值。直觉上，这种机制能够有效地原因在于，在发现一个特征之后，它的精确位置远不及它和其他特征的相对位置的关系重要。池化层会不断地减小数据的空间大小，因此参数的数量和计算量也会下降，这在一定程度上也控制了过拟合。通常来说，CNN的卷积层之间都会周期性地插入池化层。研究者普遍认为池化层有如下三个功效：1.特征不变形：池化操作是模型更加关注是否存在某些特征而不是特征具体的位置。2.特征降维：池化相当于在空间范围内做了维度约减，从而使模型可以抽取更加广范围的特征。同时减小了下一层的输入大小，进而减少计算量和参数个数。3.在一定程度上防止过拟合，更方便优化。

5.全连接层：全连接层在整个网络卷积神经网络中起到“分类器”的作用。如果说卷积层、池化层和激活函数等操作是将原始数据映射到隐层特征空间的话，全连接层则起到将学到的特征表示映射到样本的标记空间的作用。

6.LSTM：处理时域模型

链接：https://www.cnblogs.com/studya/p/12253456.html