四、经典网络9（Inception V3、V4）

inception 模块之间特征图的缩小，主要有下面两种方式：

右图是先进行 inception 操作，再进行池化来下采样，但是这样参数量明显多于左图 ( 比较方式同前文的降维后inception 模块 ) ，因此 v2 采用的是左图的方式，即在不同的 inception之间（35/17/8 的梯度）采用池化来进行下采样。

但是，左图这种操作会造成表达瓶颈问题，也就是说特征图的大小不应该出现急剧的衰减(只经过一层就骤降 ) 。如果出现急剧缩减，将会丢失大量的信息，对模型的训练造成困难。（上文提到的原则1）

 因此，在 2015 年 12 月提出的 Inception V3 结构借鉴 inception 的结构设计了采用一 种并行的降维结构，如下图：

具体来说，就是在 35/17/8 之间分别采用下面这两种方式来实现特征图尺寸的缩小，如下图：

figure 5' 35/17 之间的特征图尺寸减小

 figure 6' 17/8 之间的特征图尺寸缩小

 这样就得到 Inception v3 的网络结构，如表所示。

Inception V4

其实，做到现在，inception模块感觉已经做的差不多了，再做下去准确率应该也不会有大的改变。但是谷歌这帮人还是不放弃，非要把一个东西做到极致，改变不了inception模块， 就改变其他的。

因此，作者Christian Szegedy设计了inception v4的网络，将原来卷积、池化的顺次连接（网络的前几层）替换为stem模块，来获得更深的网络结构。stem模块结构如下

stem模块

inception v4 中 的 inception 模 块 （ 分 别 为 inception A inception B inceptionC）

 inception v4 中的 reduction 模块（分别为 reduction A reduction B） 最终得到的 inception v4 结构如下图。

 Inception-ResNet-v2

ResNet（该网络介绍见卷积神经网络结构简述（三）残差系列网络）的结构既可以加速 训练，还可以提升性能（防止梯度弥散）；Inception模块可以在同一层上获得稀疏或非稀疏 的特征。有没有可能将两者进行优势互补呢？

Christian Szegedy 等人将两个模块的优势进行了结合，设计出了 Inception-ResNet 网络。 (inception-resnet 有 v1 和 v2 两个版本，v2 表现更好且更复杂，这里只介绍了 v2) inception-resnet 的成功，主要是它的 inception-resnet 模块。 inception-resnet v2 中的 Inception-resnet 模块如下图

Inception-resnet 模块（分别为inception-resnet-A inception-resnet-B inception-resnet-C） Inception-resnet 模块之间特征图尺寸的减小如下图。（类似于inception v4）

inception-resnet-v2中的reduction模块（分别为 reduction A reduction B）最终得到的Inception-ResNet-v2网络结构如图(stem模块同inceptionv4).