Google inception v1-v4 简单回顾
思路简介:
V1 版本: Inception v1 net ,
v1 net 将 1*1, 3*3, 5*5 的conv 和3*3的pooling ,stack 一起,一方面是增加了网络的宽度,另一方面增加了网络对尺度的适应性。
v2 net,基于v1 net 进行了改进,两个方面: 1,加入了BN layer, 对每一层输出都进行了归一化处理。2、用两个3*3的conv 替代inception 模块中的5*5,即降低了参数数量,也加速计算;
v3 net, 一个最显著的改进就是 factorization (分解), 将7*7分解成了两个一维卷积, 同样对于3*3也是同样操作,这样的好处就是,一方面加速了计算,另一方面有加深了网络,增加了网络的非线性描述能力,同时,网络扩大了输入图像的大小,更加精细的设计了中间层模块。
v4 net,主要研究了inception module 组合residual connect 是否提升网络的性能,发现resnet 的结构实则可以极大的加速网络的训练,同时性能也有很大的提升,得到一个resnet v2net, 同时设计了更深 更优的inception v4 模型,达到了和resnet V2 同样好的性能。
由于最近在尝试相关的模型,所以对该系列网络进行了相关的了解。
[1]: [v1] Going Deeper with Convolutions, 6.67% test error, http://arxiv.org/abs/1409.4842
[2]:Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift, 4.8% test error, http://arxiv.org/abs/1502.03167
[3]: [v3] Rethinking the Inception Architecture for Computer Vision, 3.5% test error, http://arxiv.org/abs/1512.00567
[4]: [v4] Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning, 3.08% test error, http://arxiv.org/abs/1602.07261