卷积(convolution)和互相关(cross-correlation)

现在大部分的深度学习教程中都把卷积定义为图像矩阵和卷积核的按位点乘。实际上，这种操作亦应该是互相关（cross-correlation），而卷积需要把卷积核顺时针旋转180度然后再做点乘。

数学定义：

卷积：

互相关：

在卷积层的反向传播中，其实是需要对前一层的误差（也叫敏感度sensitivity)做padding（补零）然后再和卷积核做真正的卷积操作，也就是需要把卷积核顺时针翻转180度。