ResNet(Residual Network)是一种深度卷积神经网络,具有非常深的网络结构,并在ImageNet图像分类比赛中取得了很好的成绩。ResNet的一个关键点是增加了残差块(residual block),使网络更容易训练。ResNet引入了“跳跃连接”或“shortcut connections”,使网络可以从较浅的层直接跳到深层的层,这样可以解决深度网络中的梯度消失和梯度爆炸问题,使得网络可以更容易地训练。
ResNet50是ResNet的一种常用变体,它包含50个卷积层和一个全连接层,具有非常深的网络结构,可以用于各种计算机视觉任务,如图像分类、目标检测、语义分割等。
接下来我们用PyTorch实现:
首先,导入必要的库和模块:
import torch
import torch.nn as nn
import torch.nn.functional as F
接下来,定义Bottleneck块,这是ResNet中的基本块。
class Bottleneck(nn.Module):
expansion = 4
def __init__(self, inplanes, planes, stride=1, downsample=None):
super(Bottleneck, self).__init__()
self.conv1 = nn.Conv2d(inplanes, planes, kernel_size=1, bias=False)
self.bn1 = nn.BatchNorm2d(planes)
self.conv2 = nn.Conv2d(planes, planes, kernel_size=3, stride=stride,
padding=1, bias=False)
self.bn2 = nn.BatchNorm2d(planes)
self.conv3 = nn.Conv2d(planes, planes * 4, kernel_size=1, bias=False)
self.bn3 = nn.BatchNorm2d(planes * 4)
self.relu = nn.ReLU(inplace=True)
self.downsample = downsample
self.stride = stride
Bottleneck块包含三个卷积层:1x1卷积层、3x3卷积层和1x1卷积层,其中中间的3x3卷积层的步幅可以是1或2,用于降采样。每个卷积层后面都跟着一个归一化层和ReLU激活函数。Bottleneck块还可以选择性地添加一个下采样模块,用于将输入x与恒等映射residual匹配。
接下来,定义整个ResNet模型。
class ResNet(nn.Module):
def __init__(self, block, layers, num_classes=1000):
self.inplanes = 64
super(ResNet, self).__init__()
self.conv1 = nn.Conv2d(3, 64, kernel_size=7, stride=2, padding=3,
bias=False)
self.bn1 = nn.BatchNorm2d(64)
self.relu = nn.ReLU(inplace=True)
self.maxpool = nn.MaxPool2d(kernel_size=3, stride=2, padding=1)
self.layer1 = self._make_layer(block, 64, layers[0])
self.layer2 = self._make_layer(block, 128, layers[1], stride=2)
self.layer3 = self._make_layer(block, 256, layers[2], stride=2)
self.layer4 = self._make_layer(block, 512, layers[3], stride=2)
self.avgpool = nn.AdaptiveAvgPool2d((1, 1))
self.fc = nn.Linear(512 * block.expansion, num_classes)
ResNet模型包含一个输入卷积层、一个归一化层、一个ReLU激活函数和一个最大池化层。接下来,我们定义四个残差块(layers),每个残差块包含若干个Bottleneck块。我们使用_make_layer()函数帮助我们构建每个残差块。最后,我们在模型的最后添加一个自适应平均池化层和一个全连接层,输出大小等于分类数目(num_classes)。
下面是_make_layer()函数的实现:
def _make_layer(self, block, planes, blocks, stride=1):
downsample = None
if stride != 1 or self.inplanes != planes * block.expansion:
downsample = nn.Sequential(
nn.Conv2d(self.inplanes, planes * block.expansion,
kernel_size=1, stride=stride, bias=False),
nn.BatchNorm2d(planes * block.expansion),
)
layers = []
layers.append(block(self.inplanes, planes, stride, downsample))
self.inplanes = planes * block.expansion
for i in range(1, blocks):
layers.append(block(self.inplanes, planes))
return nn.Sequential(*layers)
该函数按照给定的块(block)、通道数(planes)、块数(blocks)和步幅(stride)构建一个残差块,其中第一个块可能添加一个下采样模块。该函数返回一个包含所有块的序列。
最后,我们定义一个resnet50()函数,用于创建ResNet50模型。
这个函数简单地调用ResNet类,并将Bottleneck块作为块类型和[3, 4, 6, 3]作为每个残差块中的Bottleneck块数目。
def resnet50(num_classes=1000):
return ResNet(Bottleneck, [3, 4, 6, 3], num_classes=num_classes)
现在,我们可以使用resnet50()函数创建一个ResNet50模型。