pytorch-模型的创建

1.模型的创建步骤

2.模型构建的要素

3.python实现LeNet模型

import torch.nn as nn
import torch.nn.functional as F


class LeNet(nn.Module):
    def __init__(self, classes):
        super(LeNet, self).__init__()
        self.conv1 = nn.Conv2d(3, 6, 5)#cov1
        self.conv2 = nn.Conv2d(6, 16, 5)#cov2
        self.fc1 = nn.Linear(16*5*5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, classes)

    def forward(self, x):
        out = F.relu(self.conv1(x))
        out = F.max_pool2d(out, 2)
        out = F.relu(self.conv2(out))
        out = F.max_pool2d(out, 2)
        out = out.view(out.size(0), -1)
        out = F.relu(self.fc1(out))
        out = F.relu(self.fc2(out))
        out = self.fc3(out)#得到分类的概率向量，输入classes为2就是2分类
        return out

    def initialize_weights(self):
        for m in self.modules():
            if isinstance(m, nn.Conv2d):
                nn.init.xavier_normal_(m.weight.data)
                if m.bias is not None:
                    m.bias.data.zero_()
            elif isinstance(m, nn.BatchNorm2d):
                m.weight.data.fill_(1)
                m.bias.data.zero_()
            elif isinstance(m, nn.Linear):
                nn.init.normal_(m.weight.data, 0, 0.1)
                m.bias.data.zero_()

4.torch.nn模块简介

5.nn.Module总结

1.一个module可以包含多个子module，如LeNet中有conv2d，有pool等都是子module。

2.一个module相当于一个运算，必须实现forward（）函数。

3.每个module都有8个字典管理它的属性。

• parameters：储存管理nn.parameter类，参数weight，bias等在里面
• modules：储存nn。Module类，这个大模型是由什么模型构成的。