普通卷积、转置卷积、空洞卷积（dilated convolution、Atrous Convolution）

every blog every motto: We would rather reuse an active dwarf than a sleeping giant.

0. 前言

暂无

1. 正文

1.1 基础概念辨析

1. 普通卷积Conv2D

结果/作用： 特征图大小不变或缩小。
具体介绍参考：参考文章1 参考文章2

2. 转置卷积Conv2DTranspose

结果/作用： 特征图变大（上采样）
简要概括： 输入特征图中间填充0
具体介绍参考：参照文章3

3. 空洞卷积Dilated/Atrous Convolution

结果/作用： 增大感受野
简要概括： 卷积核中间填充0

1.2 空洞卷积

概念： 空洞卷积（Dilated/Atrous Convolution）相比原来正常的卷积多了hyper-parameter称为空洞率（dilation rate）指kernel的间隔数量（dilation rate -1）。
其中，正常卷积的空洞率为1。

1.2.1 卷积网络存在的问题

1. up-sample/pooling layer是不可学习的（没有参数）。
2. 内部数据结构丢失，空间层级化丢失。
3. 小物体信息无法重建（假设有四个pooling layer，则，任何小于2^4=16pixel的物体信息将理论上无法重建）

1.2.2 空洞卷积

1.2.3 卷积核大小

如，空洞卷积kernel=3，空洞率，dilation rate=2

那么，

K = kernel + (kernel-1) * (dr-1)