学习日志整理2：神经网络改进方案——空洞卷积与HDC

0.空洞卷积是什么？HDC又是啥？

空洞卷积，说白了就是把kernel变成筛状。

两张图看明白。图源：

https://www.jianshu.com/p/f743bd9041b3

传统卷积核：

空洞卷积核：

而HDC又是对空洞卷积的一种改进，可以说他是空洞卷积的一种特殊结构

1.为何采用空洞卷积？

一句话：为了增大感受野，从而抵消一部分池化层造成的信息丢失

由此引出两个问题：
（1）什么是感受野？
（2）为什么池化层信息会丢失？

1.0.形象理解感受野

目前看网络上的一些帖子都采用的论文图，开始理解起来有一些困难，这里放上我个人的理解，如果有不对的地方欢迎大家指正。

首先，以3x3传统卷积为例，我们回顾一下图片卷积的工作模式。

正着说，就是（靠上层中的）一片3x3区域被压缩为（靠下层中的）一个点

那逆过来，就是（靠下层中的）一个点等效于（靠上层中的）一片3x3区域