空洞卷积
a、b、c图卷积核均为3*3,图a和普通的卷积操作一样,a)图对应3x3的1-dilated conv,b)图对应3x3的2-dilated conv,2-dilated conv的前一层是一个1-dilated conv的话,
那么每个红点就是1-dilated的卷积输出,所以感受野为3x3,所以1-dilated和2-dilated合起来就能达到7x7的conv。c)图是4-dilated conv操作,同理跟在两个1-dilated和
2-dilated conv的后面,能达到15x15的感受野
空洞卷积的潜在问题
空洞卷积是存在理论问题的,论文中称为gridding,其实就是网格效应/棋盘问题。因为空洞卷积得到的某一层的结果中,邻近的像素是从相互独立的子集中卷积得到的,相互之间缺少依赖。
- 局部信息丢失:由于空洞卷积的计算方式类似于棋盘格式,某一层得到的卷积结果,来自上一层的独立的集合,没有相互依赖,因此该层的卷积结果之间没有相关性,即局部信息丢失。
解决方案:注意叠加卷积的扩张率的设计,如: dilation rate [1, 2, 5]
- 远距离获取的信息没有相关性:由于空洞卷积稀疏的采样