ResNet

ResNet

简介

ResNet在2015年由微软实验室提出，斩获当年ImageNet竞赛中分类任务第一名，目标检测第一名，在COCO数据集中目标检测和图像分割也均为第一名。

网络详解

随着VggNet，GoogLeNet的相继出世，网络层数比之前都要多、而精度也比之前更加准确，难道我们一直卷积，提高层次就一定能达到一个更好的效果吗。
答案是否定的，随着网络层数的增加，网络会出现梯度消失、梯度爆炸和网络退化等问题。

如上图所示，56层的误差反而比20层的误差更高。甚至网络层数多了还可能会出现梯度消失、梯度爆炸、退化问题，对于梯度消失和梯度爆炸可以使用数据标准化处理、权重初始化和BN，而对于退化问题可以使用残差。

何为残差块？

resnet就是由多个这样的残差块所组成的。而一个残差块有两条路，一个x路径为identity mapping，称之为恒等映射，简单来说就是它还是原来的x。还有一条路就是直线那条路，经过一系列卷积操作得到F(x)，再F(x)与x相加
F（x）和x的尺寸要相同
残差结构也有两种

左边针对与ResNet34，右边针对ResNet50/101/152。
右图中的结构对残差做了计算优化，将两个3x3的卷积层替换层一个1x1 + 3x3 + 1x1，即先降维，再卷积，再升维，这样即保持了精度，又减少了计算量。
不同深度的ResNet网络结构配置，其中xN表示该残差结构重复了N次

代码实现

class ResBlk(nn.Module):
    def __init__(self, ch_in, ch_out, stride=1):
        super(ResBlk, self).__init__()

        self.left = nn.Sequential(
            nn.Conv2d(ch_in, ch_out, kernel_size=3, stride=stride, padding=1),  # 第一个卷积
            nn.BatchNorm2d(ch_out),  # 防止梯度弥散或爆炸
            nn.Conv2d(ch_out, ch_out, kernel_size=3, stride=1, padding=1),  # 第二个卷积
            nn.BatchNorm2d(ch_out)
        )
        self.shortcut = nn.Sequential()  # 定义短接层
        if ch_out != ch_in:   # 让ch_out=ch_in 使得后面 shortcut能与输出元素对应相加
            self.shortcut = nn.Sequential(
                nn.Conv2d(ch_in, ch_out, kernel_size=1, stride=stride),
                nn.BatchNorm2d(ch_out)
            )

    def forward(self, x):
        out = self.left(x)
        out = self.shortcut(x) + out  # 输出相加
        out = F.relu(out)  # 加激活函数
        return out


class ResNet(nn.Module):

    def __init__(self, num_class):
        super(ResNet, self).__init__()

        self.conv1 = nn.Sequential(
            nn.Conv2d(3, 16, kernel_size=3, stride=3, padding=0), # 第一个卷积 【bacth，16，224，224】
            nn.BatchNorm2d(16)
        )
        self.blk1 = ResBlk(16, 32, stride=3)  # [batch,32,25,25]
        self.blk2 = ResBlk(32, 64, stride=3)  # [batch,64,9,9]
        self.blk3 = ResBlk(64, 128, stride=2)  # [batch ,128,5,5]
        self.blk4 = ResBlk(128, 256, stride=2)  # [batch,256,3,3]
        self.outlayer = nn.Linear(256*3*3, num_class)  # 线性层 [256*3*3,5]
    def forward(self, x):

        x = F.relu(self.conv1(x))
        x = self.blk1(x)
        x = self.blk2(x)
        x = self.blk3(x)
        x = self.blk4(x)
        x = x.view(x.size(0), -1)
        x = self.outlayer(x)

        return x

网络性能对比