Inception-v4,Inception-ResNet and the Impact of Residual Connections on Learning
lnception-v4, Inception-ResNet,残差连接对模型训练的影响
InceptionV4
Inception-v4可分为六大模块分别是:
Stem、Inception-A、B、C、Reduction-A、B
每个模块都有针对性的设计,模型总共76层
- 带V表示不进行padding,而标V表示进行padding
- Stem(9层):3个3*3卷积堆叠;高效特征图下降策略(参见InceptionV3);非对称分解卷积
- Inception-A(3层):标准的Inception module
- Reduction-A (3层)︰采用3个分支,其中卷积核的参数K, l, m, n分别为192,224,256,384,表一为ReductionA在三个模型中超参的具体数量
- Inception-B (5层):非对称卷积操作部分,参考Inception-v3
- Reduction-B :与V3一样,采用了非对称卷积
- Inception-C(4层):结构参考自Inception-v3
Inception-v4总共9+3 * 4+5 * 7+4 * 3+3+4+1 =76层
Inception-ResNet
- Inception-ResNet的总体结构
- V1-Stem
- V2-Stem(输出35 * 35的特征图)
- V1-InceptionA 加入了残差连接(相较于V3,此处改为拼接后再经过一个1 * 1卷积)
- V2-InceptionA(处理35*35的特征图)
- Reduction-A (3层)(35 * 35 -> 17 * 17)︰采用3个分支,其中卷积核的参数K, l, m, n分别为192,224,256,384,表一为ReductionA在三个模型中超参的具体数量
- V1-InceptionB
- V2-InceptionB(处理17 * 17的特征图)
- V1-Reduction-B
- V2-Reduction-B(17 * 17 -> 8 * 8)
- V1-InceptionC
- V2-InceptionC(处理8 * 8的特征图)