1. 经典网络结构
AlexNet
Image challenge下的首个卷积神经网络。
VGG
模块化的设计,增加了很多的stage。
相同的感受野;2个3x3,比5x5的flops要少;中间插入relu,还有更多的非线性。
feature size 减小之后,同时double channel的数量,以保证相同的flops。
GoogleNet
下采样的特别快,降低计算量
inception模块,并行的conv,无需tune kernel size;1x1的降低channel;
用pooling代替全连接,降低计算量
ResNet, ResBottleNet, ResNext
base vs bottleneck
bottlenet vs resnext
MobileNet
depthseperable and pointwise conv