之前的推送介绍了一些深度学习中一些简单的模型,如线性回归、softmax回归、多层感知机,今天将介绍卷积神经网络的一些基础知识,主要包括互相关运算、卷积层、特征图与感受野、多输入通道与多输出通道以及池化层。
0 1卷积层卷积神经网络中最常见的是二维卷积层,常用于处理图像数据。在介绍卷积层之前,先介绍一下互相关运算,以二维互相关运算为例。
二维互相关(cross-correlation)运算的输入是一个二维输入数组和一个二维核(kernel)数组,输出也是一个二维数组,其中核数组通常称为卷积核或过滤器(filter)。卷积核的尺寸通常小于输入数组,卷积核在输入数组上滑动,在每个位置上,卷积核与该位置处的输入子数组按元素相乘并求和,得到输出数组中相应位置的元素。例如, 。这里的核也就是类似于遥感图像处理里面的算子,例如可用来进行边缘检测。
二维卷积层将输入和卷积核做互相关运算,并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。
卷积层得名于卷积运算,但卷积层中用到的并非卷积运算而是互相关运算。我们将核数组上下翻转、左右翻转,再与输入数组做互相关运算,这一过程就是卷积运算。由于卷积层的核数组是可学习的,所以使用互相关运算与使用卷积运算并无本质区别。
0 2特征图与感受野二维卷积层输出的二维数组可以看作是输入在空间维度(宽和高)上某一级的表征,也叫特征图(feature map)。影响元素的前向计算的所有可能输入区域(可能大于输入的实际尺寸)叫做的感受野(receptive field)。以上图为例,输入中阴影部分的四个元素是输出中阴影部分元素的感受野。我们将图中形状为的输出记为,将与另一个形状为