一文读懂深度学习中的各种卷积（阅读笔记）

1、卷积与互相关

在深度学习中，卷积中的过滤器不经过反转。严格来说，这是互相关。我们本质上是执行逐元素乘法和加法。但在深度学习中，直接将其称之为卷积更加方便。因为过滤器的权重是在训练阶段学习到的。如果上面例子中的反转函数 g 是正确的函数，那么经过训练后，学习得到的过滤器看起来就会像是反转后的函数 g。

常规卷积（2D卷积）:

2、3D卷积

对比的，2D卷积为全通道的，不会在通道轴上滑动。

3、转置卷积（去卷积）（反卷积）

对应的算术解释：

#普通卷积：

现在，如果我们在等式的两边都乘上矩阵的转置 CT，并借助“一个矩阵与其转置矩阵的乘法得到一个单位矩阵”这一性质，那么我们就能得到公式 CT x Small = Large，如下图所示：

4、扩张卷积（Atrous 卷积）

即空洞卷积

5、可分卷积

5.1空间可分卷积（pointwise）

空间可分卷积操作的是图像的 2D 空间维度，即高和宽。

5.2深度可分卷积（DepthWise卷积）

深度可分卷积操作的是图像的深度维度，即通道。

5.3 Depthwise Separable Convolution：

先提取区域特征，再提取通道特征

6、组卷积