深度学习基础--卷积类型

本文主要简单介绍几种常见卷积类型，有错误的地方望指正，喜欢就点赞吧。知乎也是本人：https://zhuanlan.zhihu.com/p/59839551

用于回忆和梳理知识，一些原话没有标注引用，望见谅。

1、Upsampling（上采样）

在FCN、U-net等网络结构中，涉及到上采样。上采样概念：任何可以让图像变成更高分辨率的技术。最简单的方式是重采样和插值：将输入图片进行rescale到一个想要的尺寸，而且计算每个点的像素点，使用如双线性插值等插值方法对其余点进行插值来完成上采样过程。

2、上池化

Unpooling是在CNN中常用的来表示max pooling的逆操作。这是论文《Visualizing and Understanding Convolutional Networks》中产生的思想，原理很好理解，就是最大池化的逆运算。下图示意：

3、反卷积 DeCov

反卷积又被称为Transposed(转置) Convolution，卷积的计算可以转化为权值稀疏矩阵和特征矩阵相乘。3×3卷积核展成一个权值稀疏矩阵，把4×4的输入特征展成[16,1]的矩阵，那么卷积可以输出是一个[4,1]的输出特征矩阵。下图表示卷积计算对应的反卷积操作，其中他们的输入输出关系正好相反。如果不考虑通道以卷积运算的反向运算来计算反卷积运算的话，还可以通过离散卷积的方法来求反卷积。

4、group convolution

Group convolution是分组卷积，最早在AlexNet中出现，由于当时的硬件资源有限，训练AlexNet网络时卷