主要操作
卷积、非线性变换(ReLU)、池化或子采样、分类(完全连接层)
卷积
卷积的主要目的是从输入图像中提取特征。
卷积的解释:将橙色矩阵在原始图像(绿色)上以每次1个像素的速率(也称为“步幅”)移动,对于每个位置,计算两个矩阵相对元素的乘积并相加,输出一个整数并作为最终输出矩阵(粉色)的一个元素。
在卷积神经网路的术语中,这个3 × 3矩阵被称为“过滤器”或“核”或“特征探测器”,通过在图像上移动过滤器并计算点积得到的矩阵被称为“卷积特征”或“激活映射”或“特征映射”。重要的是要注意,过滤器的作用就是原始输入图像的特征检测器。
深度
卷积运算的过滤器数量。如果使用三个过滤器进行卷积就可以得到三个不同的特征图,将这三个特征图视为堆叠的二维矩阵,因此特征映射的深度为3。
步幅
在输入矩阵上移动一次过滤器矩阵的像素数量。步幅越大,生成的特征映射越小。
非线性变换ReLU
ReLU 是一个针对元素的操作(应用于每个像素),并将特征映射中的所有负像素值替换为零。ReLU 的目的是在卷积神经网络中引入非线性因素(卷积是一个线性运算 —— 按元素进行矩阵乘法和加法,所以我们希望通过引入 ReLU 这样的非线性函数来解决非线性问题)。
其他非线性函