本文简单总结了以下三种比赛常用backbone(pytorch实现代码):
- GoogLeNet
- Resnet
- mobilenet
GoogLenet(Inception系列)
motivation: 保持网络结构的稀疏性的同时,又能利用密集矩阵的高计算性能。
特点:
- 引入inception module
这里1x1卷积的作用:降维;减小参数;增加非线性。
- 用小卷积核替代大卷积核,后面5x5卷积核也被两个3x3卷积核替代。一方面,在保证感受野不变的情况下,减小了计算参数;另一方面,加入了更多层的非线性,使得判决函数更加具有判决性,并且起到隐式正则化的作用。
Resnet
motivation: Go deeper!
特点:
- 引入residual module