这篇文章介绍的网络有Inception V1、Inception V2、Inception V3、Inception V4与Inception-ResNet-V2。
1、Inception V1
主要贡献:
(1)提出inception architecture并对其优化
(2)取消全连层(因为FC网络输入要固定、参数过多、容易过拟合)
(3)运用auxiliary classifiers加速网络converge,简称AC
其中1×1的卷积层可以控制kernels的数量,还增加了网络的非线性程度。多个卷层后将卷积直接concate一下。
网络中间层加入了两个AC,这两个AC在训练的时候也跟着学习,同时把自己学习到的梯度反馈给网络,算上网络最后一层的梯度反馈,GoogLeNet一共有3个“梯度提供商”,先不说这么做有没有问题,它确实提高了网络收敛的速度,因为梯度大了嘛。另外,GoogLeNet在做inference的时候AC是要被摘掉的。
2、Inception V2
该团队又提出了incept