# GooLeNet
在Inception块中,通常调整的超参数是每层输出通道数。
import torch
from torch import nn
from torch.nn import functional as F
from d2l import torch as d2l
class Inception(nn.Module):
# c1--c4是每条路径的输出通道数
def __init__(self, in_channels, c1, c2, c3, c4, **kwargs):
super(Inception, self).__init__(**kwargs)
# 线路1,单1x1卷积层
self.p1_1 = nn.Conv2d(in_channels, c1, kernel_size=1) # 这是线路1的输出通道数,表示由一个1x1卷积层生成的特征图的通道数。
# 线路2,1x1卷积层后接3x3卷积层
self.p2_1 = nn.Conv2d(in_channels, c2[0], kernel_size=1) # p2,它包括两个卷积层:首先是一个1x1卷积层,然后是一个3x3卷积层。c2 是一个包含两个整数的元组,分别表示两个卷积层的输出通道数。
self.p2_2 = nn.Conv2d(c2[0], c2[1], kernel_size=3, padding=1)
# 线路3,1x1卷积层后接5x5卷积层
self.p3_1 = nn.Conv2d(in_channels, c3[0], kernel_size=1) # p3,它包括两个卷积层:首先是一个1x1卷积层,然后是一个5x5卷积层。c3 是一个包含两个整数的元组,分别表示两个卷积层的输出通道数。
self.p3_2 = nn.Conv2d(c3[0], c3[1], kernel_size=5, padding=2)
# 线路4,3x3最大汇聚层后接1x1卷积层
self.p4_1 = nn.MaxPool2d(kernel_size=3, stride=1, padding=1) # p4,它包括一个3x3最大汇聚层(nn.MaxPool2d)和一个1x1卷积层。最大汇聚层用于捕获局部特征。
self.p4_2 = nn.Conv2d(in_channels, c4, kernel_size=1)
def forward(self, x): # 定义模块的前向传播函数。模块的输入是 x,它是一个四维的张量(批量大小、通道、高度、宽度)。
p1 = F.relu(self.p1_1(x))
p2 = F.relu(self.p2_2(F.relu(self.p2_1(x))))
p3 = F.relu(self.p3_2(F.relu(self.p3_1(x))))
p4 = F.relu(self.p4_2(self.p4_1(x)))
# 在通道维度上连结输出
return torch.cat((p1, p2, p3, p4), dim=1) # 模块将每个路径的输出在通道维度上连接在一起,形成最终的输出。
# 对应第一个stage
b1 = nn.Sequential(nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3),
nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
# 对应stage2
b2 = nn.Sequential(nn.Conv2d(64, 64, kernel_size=1),
nn.ReLU(),
nn.Conv2d(64, 192, kernel_size=3, padding=1),
nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
# 对应stage3
b3 = nn.Sequential(Inception(192, 64, (96, 128), (16, 32), 32), # 创建了一个Inception模块。模块的输入通道数为192,然后它包括四个路径
# 路径1:包含一个1x1卷积层,输出通道数为64。
# 路径2:包含一个1x1卷积层,输出通道数为96,然后连接一个3x3卷积层,输出通道数为128。
# 路径3:包含一个1x1卷积层,输出通道数为16,然后连接一个5x5卷积层,输出通道数为32
# 路径4:包含一个3x3最大汇聚层后接一个1x1卷积层,输出通道数为32
# 这个Inception模块的输出将是这四个路径输出的连接,总输出通道数为64+128+32+32=256。
Inception(256, 128, (128, 192), (32, 96), 64), # 与上面类似
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
后续的stage与上述类似,最后放一个全连接层