Deep Lab 系列总结

• Deep Lab v1  

结合了深度卷积神经网络（DCNNs）和概率图模型（Dense CRFs）的方法

1. 问题1：DCNN s做语义分割时精准度不够，根本原因是DCNNs的高级特征的平移不变性，即高层次特征映射，根源于重复的池化和下采样。
2. 改进1：采用Atrous（带孔）算法扩展感受野，获取更多的上下文信息
3. 问题2：分类器获取以对象中心的决策是需要空间变换的不变性，这天然地限制了DCNN的定位精度
4. 改进2：采用完全连接的条件随机场（CRF）提高模型捕获细节的能力

• Deep Lab v2

DeepLab1的问题：特征分辨率的降低、物体存在多尺度、DCNN的平移不变性

1. 问题1：DCNN连续池化和下采样造成分辨率降低
2. 改进1：DeepLabv2在最后几个最大池化层中去除下采样，取而代之的是使用空洞卷积，以更高的采样密度计算特征映射。
3. 问题2：物体存在多尺度的问题，DeepLabv1中是用多个MLP结合多尺度特征解决，虽然可以提供系统的性能，但是增加特征计算量和存储空间
4. 改进2：基于SPP启发，在给定的输入上以不同采样率的空洞卷积并行采样，相当于以多个比例捕捉图像的上下文，称为ASPP。
5. 问题3：DCNN的分类不变性影响空间精度
6. 改进3：DeepLabv2是采用全连接的CRF在增强模型捕捉细节的能力

• Deep Lab V3

1. 增强ASPP模块，复制resnet最后的block级联，加入BN，没有使用CRFS

      

• Deep Lab v3+

1. 在模型架构上进行了引入，为了融合多尺度信息，引入语音分割常用的encoder-decoder。在encoder-decoder架构中，引入可任意控制编码器提取特征的分辨率，通过空洞卷积平衡精度和耗时。

      

1. 在语义分割任务中采用Xception模型，在ASPP和解码模块使用depthwise separable convolution提高编码器-解码器网络的运行速率和健壮性。

• Xception介绍：
• 基于InceptionV3假设出发，即解耦通道相关性和空间相关性进行简化，推导出深度可分离卷积（深度卷积+逐点卷积）

• Xception改进：
• Entry flow 保持不变，但是添加了更多的Middle flow。所有的max pooling被depthwise separable convolution 替代。在每个3x3 depthwise convolution 之外，增加了batch normalization 和ReLU。