打卡2

二维互相关运算

二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（filter）。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。比如：

二维卷积层

二维卷积层将输入和卷积核做互相关运算，并加上一个标量偏置来得到输出。卷积层的模型参数包括卷积核和标量偏置。
卷积核就相当于线性回归的权重参数，标量偏置就相当于线性回归的b。

填充与步幅

填充

填充（padding）是指在输入高和宽的两侧填充元素（通常是0元素），可以用于改变输出形状。比如：

步幅

在互相关运算中，卷积核在输入数组上滑动，每次滑动的行数与列数即是步幅（stride）。

特征图和感受野

二维卷积层输出的二维数组可以看作是输入在空间维度（宽和高）上某一级的表征，也叫特征图（feature map）。影响元素xx的前向计算的所有可能输入区域（可能大于输入的实际尺寸）叫做xx的感受野（receptive field）。

多输入通道和多输出通道

多输入通道

卷积层的输入可以包含多个通道，比如

多输出通道

卷积层的输出也可以包含多个通道，设卷积核输入通道数和输出通道数分别为a和b，高和宽分别为h和w。如果希望得到含多个通道的输出，我们可以为每个输出通道分别创建形状为a×h×w的核数组，将它们在输出通道维上连结，卷积核的形状即a×b×h×w。

池化

二维池化层

池化层主要用于缓解卷积层对位置的过度敏感性。同卷积层一样，池化层每次对输入数据的一个固定形状窗口（又称池化窗口，和卷积核类似）中的元素计算输出，池化层直接计算池化窗口内元素的最大值或者平均值，该运算也分别叫做最大池化或平均池化。
在处理多通道输入数据时，池化层对每个输入通道分别池化，但不会像卷积层那样将各通道的结果按通道相加。这意味着池化层的输出通道数与输入通道数相等。