Pytorch构建神经网络进行训练

目录

1.构建网络结构

2.定义损失函数和优化器

3.训练部分

4.保存和加载网络

---

1.构建网络结构

网络名=torch.nn.Sequential(网络层)

class Net(nn.Module):
    def __init__(self):
        super(Net,self).__init__()
        self.predict=nn.Sequential(
            nn.Linear(1,20),
            nn.ReLU(),
            nn.Linear(20,20),
            nn.ReLU(),
            nn.Linear(20,1)
        )
    def forward(self,x):#前向传播过程
        prediction=self.predict(x)#将x传入网络
        return prediction

2.定义损失函数和优化器

optimizer=torch.optim.SGD(net.parameters(),lr=0.05)
loss_func=nn.MSELoss()

 具体优化器的区别，请读者查看另一篇文章

Pytorch学习笔记（3）--优化器optimhttps://blog.csdn.net/m0_61385981/article/details/124244484?spm=1001.2014.3001.5502

3.训练部分

out=net(x)#实际输出
loss=loss_func(out,y)#实际输出与期望输出传入损失函数
optimizer.zero_grad()#清除梯度
loss.backward()#误差反向传播
optimizer.step()#优化器开始优化

4.保存和加载网络

方法一：保存和加载整个网络

torch.save(网络名，'路径/命名.pkl')

torch.load('路径/文件名.pkl')

 保存了整个网络，在加载网络时不用再重新定义网络模型

但是.pkl文件较大，在网络模型特别复杂时比较占用空间，且加载网络速度较慢

方法二：只保存网络的参数，不保存整个网络

torch.save(网络名.state_dict()，'路径/命名.pkl')

torch.load_state_dict(torch.load('路径/文件名.pkl'))

只保存加载网络的参数，速度快，占用空间小

但是需要在加载之前重新定义好网络