1. Resnet比较
ResNet获得2015年ImageNet比赛的冠军。不同层数的ResNet如下表:
2. 结构分析
2. 1 层数计算
和VGG一样,ResNet名字中的层数只包含卷积层和全连接层,不包含BN层、激活函数层、池化层、跳跃连接中的卷积,所以Resnet-N有 N − 1 N-1 N−1个卷积层和1个全连接层。ResNet和VGG一样有5个卷积块。以Resnet-18为例:
卷积块1(conv 1) | 卷积块2(conv 2_x) | 卷积块3(conv 3_x) | 卷积块4(conv 4_x) | 卷积块5(conv 5_x) | 全连接层 |
---|---|---|---|---|---|
1个7×7×64的卷积层 | 2×2个3×3×64的卷积层 | 2×2个3×3×128的卷积层 | 2×2个3×3×256的卷积层 | 2×2个3×3×512的卷积层 | 1 |
所以,ResNet-N的N的来源是:
Resnet-18 | Resnet-34 | Resnet-50 | Resnet-101 | Resnet-152 |
---|---|---|---|---|
1+(2+2+2+2)×2+1=18 | 1+(3+4+6+3)×2+1=34 | 1+(3+4+6+3)×3+1=50 | 1+(3+4+23+3)×3+1=101 | 1+(3+8+36+3)×3+1=152 |
2.2 维度变化
卷积层操作分为5个卷积块: c o n v 1 conv1 conv1、 c o n v 2 _ x conv2\_x conv2_x、 c o n v 3 _ x conv3\_x conv3_x、 c o n v 4 _ x conv4\_x conv4_x、 c o n v 5 _ x conv5\_x conv5_x。每一个卷积块使特征的边长缩小 1 2 \frac{1}{2} 21,所以边长共缩小 1 32 \frac{1}{32} 321:原始输入图像尺寸是 224 × 224 × 3 224×224×3 224×224×3,卷积输出是 7 × 7 × 512 7×7×512 7×7×512。
3. 网络结构图
图
1.
R
e
s
n
e
t
−
18
和
R
e
s
n
e
t
−
50
网
络
结
构
图 1. \quad Resnet -18和Resnet-50网络结构
图1.Resnet−18和Resnet−50网络结构
4. Resnet v2
[参考]