【深度可分离卷积网络】Xception 网络解析

最新推荐文章于 2024-04-01 16:01:06 发布

秋冬无暖阳°

最新推荐文章于 2024-04-01 16:01:06 发布

阅读量835

点赞数 2

分类专栏：计算机视觉 # 卷积网络文章标签：网络深度学习神经网络

本文链接：https://blog.csdn.net/qq_51392112/article/details/129842181

版权

34 篇文章 2 订阅

订阅专栏

8 篇文章 0 订阅

订阅专栏

Xception 是 Google 在 2017 年出品的轻量级神经网络。

最终模型在ImageNet等数据集上都取得了相比Inception v3与Resnet-152更好的结果。而且模型大小与计算效率相对于Inception v3也取得了较大提高。

下面是一个典型的 Inception 模块。
在这里插入图片描述
我们知道，卷积层的功能是：同时学习跨通道相关性和空间相关性。而 Inception 的思想是尝试将这两个相关性的学习分割开来，即：

先用 1x1 conv来着重学习各通道之间的关联，（通道之间）
再用 3x3/5x5 conv （两个 3x3 conv 即为 5x5 conv）来学习其不同维度上的单个通道内在空间上的关联（也会学到部分各通道之间的关联）。（空间关系：图像的不同区域之间的联系）

考虑一个 Inception 模块的简化版本，只使用一种规格的卷积（例如 3×3 conv），并且不含平均池化。如下图所示：
在这里插入图片描述

上图figure 2 中表示的简化版 Inception 模块，又可被表示为下图 figure 3中的形式。即，实质上它等价于，

先使用一个1x1 conv来学习 input feature maps之上 channels 间特征的关联关系，
然后再将1x1 conv输出的feature maps进行分割，分别交由下面的若干个3x3 conv来处理其内的空间上元素的关联关系。

更进一步，极端的情况是：将每个channel上的空间关联分别使用一个相应的conv 3x3来单独处理呢。如此就得到了下图中所示的 Separable conv。

Xception 和 MobileNet 之间有相同的地方也有不同的地方，主要体现在：

深度可分离卷积其实是一种可分解卷积操作（factorized convolutions），其可以分解为两个更小的操作：depthwise convolution(DW 卷积、捕捉空间关联)和pointwise convolution(PW卷积、捕捉通道关联)。

Xception 结构由 36 个卷积层组成网络的特征提取基础。这些卷积层被分成 14 个模块，除最后一个外，模块间有线性残差连接。

另外，Xception 引入了 Entry/Middle/Exit 三个 flow，每个 flow 内部使用不同的重复模块，
- 入口（Entry）主要是用来不断下采样，减小空间维度；
- 中间（Middle）则是不断学习关联关系，优化特征；
- 出口（Exit）则是汇总、整理特征，用于交由全连接层来进行表达。

在这里插入图片描述