学习笔记--目标分类7 googlenet-V4

Inception-4，Inception-Resnet and the Impact of residual connections on learning

1、学习目标

1.1、Inception-v4：76层

六大模块：
stem、inception-A/B/C、reduction-A/B

1.2、Inception-ResNet

V1六大模块
stem、inception-A/B/C、reduction-A/B
V2六大模块
stem、inception-A/B/C、reduction-A/B

1.3、Scaling of the Residuals

缩小激活值（×0.1-0.3），以稳定模型的训练，解决了由于通道数超过1000导致的池化以后可能出现0值

2、inception系列

v1
借鉴NIN的1X1卷积，
借鉴多尺度高斯滤波器的inception模块
22层
v2
针对内部协变量偏移，提出BN
5X5卷积替换3X3卷积
采用步长为2的卷积降低分辨率
31层
v3
四个模型设计准则
卷积分解方式
高效特征图下降策略（reduction-A/B）
标签平滑策略
在v2基础上增加RMSProp，label smoothing，factorized7X7，BN-auxiliary
v4
非对称卷积的使用
步长为2，不padding，卷积尺寸减半；不padding，卷积尺寸下降2-----高效特征图下降策略（reduction-A/B）
引入resnet
缩小激活值（scaling of the residuals）
沿用经典的先大卷积核即大的感受野，再用小卷积核
76层

3、启发点

4、总结

A+B的重要性、6大模块的设计