本文只对Inception的4个版本做了简单对比,详细内容参考:https://blog.csdn.net/qq_32172681/article/details/99977304
1、inception v1
inception v1提出了inception模块,用1*1卷积实现通道降维和增维,增加了网络深度和宽度。
2、inception v2
inception v2主要做的改进就是加入了batch normalization,batch normalization方法可以减弱这些变化,使得每一层的输入数据具有相同的均值和方差,增加模型训练的收敛速度。使用BN层,可以使用更大的学习率加速训练过程;可以取得类似于dropout的防止过拟合的作用;可以使用易于饱和的非线性函数(sigmoid)。
BN层详解:https://blog.csdn.net/qq_32172681/article/details/101435806
3、inception v3
Inception v3减少瓶颈结构、使用因子分解较大的卷积。
(1)对称卷积的空间因子分解,用两个3*3的卷积代替5*5的卷积
(2)引入辅助分类器,加速深度网络收敛
(3)避免使用瓶颈层
(4)基于标签平滑的模型正则化
参考地址:https://www.cnblogs.com/zyrb/p/9699168.html
4、inception v4、Inception-ResNet
由于残差连接的优越性,将inception 和 残差连接在一起。inception v4无残差,inceotion resnet v1/v2均加入了残差连接。