深度学习知识点

1、卷积
动态图理解
2、反卷积
动态图理解
国际友人提示
反卷积(Deconvolution)上采样(Upsampling)上池化(Unpooling)的区别

一文了解各种卷积结构原理

3、进一步了解反卷积
参考
反卷积跟1维信号处理的反卷积计算是很不一样的，FCN作者称为backwards convolution，有人称Deconvolution layer is a very unfortunate name and should rather be called a transposed convolutional layer. 我们可以知道，在CNN中有con layer与pool layer，con layer进行对图像卷积提取特征，pool layer对图像缩小一半筛选重要特征，对于经典的图像识别CNN网络，如IMAGENET，最后输出结果是1X1X1000，1000是类别种类，1x1得到的是。FCN作者，或者后来对end to end研究的人员，就是对最终1x1的结果使用反卷积（事实上FCN作者最后的输出不是1X1，是图片大小的32分之一，但不影响反卷积的使用）。
这里图像的反卷积与图6的full卷积原理是一样的，使用了这一种反卷积手段使得图像可以变大，FCN作者使用的方法是这里所说反卷积的一种变体，这样就可以获得相应的像素值，图像可以实现end to end。
划重点：此反卷积不同于彼反卷积，而是一种backwards convolution
使用此反卷积可以使图像变大

这里说另外一种反卷积做法，假设原图是3X3，首先使用上采样让图像变成7X7，可以看到图像多了很多空白的像素点。使用一个3X3的卷积核对图像进行滑动步长为1的valid卷积，得到一个5X5的图像，我们知道的是使用上采样扩大图片，使用反卷积填充图像内容，使得图像内容变得丰富，这也是CNN输出end to end结果的一种方法。韩国作者Hyeonwoo Noh使用VGG16层CNN网络后面加上对称的16层反卷积与上采样网络实现end to end 输出，其不同层上采样与反卷积变化效果如下，
划重点：另外一种反卷积做法，有点弄不懂到底是那一种

参考2
该作者明确了反卷积和转置卷积的概念
反卷积的数学含义，通过反卷积可以将通过卷积的输出信号，完全还原输入信号。
转置卷积只能还原shape大小，不能还原value.

摘取下方评论留作思考
作者：小华仔
链接：https://www.zhihu.com/question/43609045/answer/150012768
动图
看过这些动图之后，想必很多人都认为 Transposed Convolution 就是卷积，答案是对的。就是 pad（通常用 0 进行 pad），然后进行卷积。但是这种做法效率不高，怎么办？习惯性想到：转化为矩阵乘积的方式。怎么转？把 filter 取转置就行了（数学角度的正确性证明这里不说了，那么多公式矩阵也不会有多少人看，你可用个例子看一下，有助于理解），你会发现这与进行pad，然后卷积的做法是一致的。代码实现上 Deconvolution 就是这么干的。注意1：这里的 filter 是变形后的 filter，不是最原始的 filter，这一点很重要！！！！可以看得票最高的那个回答。注意2： Deconvolution Network 部分的 filter 可以不是前面 Convolution Network 部分学习到的取转置后的 filter，在 Deconvolution Network 部分可以自己学习新的 filter （原始 filter 的大小与前面 Convolution Network 对应层的 filter 的大小保持一致，但是在代码实现时，变形后的 filter 的大小，是前面 Convolution Network 对应层的变形后的 filter大小的转置（绕，比如 Convolution Network 部分是4 X 16，这里就是16 X 4）。