pytorch实践之线性模型使用框架

最新推荐文章于 2024-11-15 10:13:16 发布

just-run

最新推荐文章于 2024-11-15 10:13:16 发布

阅读量114

点赞数

文章标签： pytorch 深度学习人工智能

本文链接：https://blog.csdn.net/qq_38095787/article/details/130141174

版权

文章构建了一个简单的线性模型，使用不同的优化器（SGD,Adam,ASGD）进行训练，通过MSELoss计算损失。在100个epoch内，展示了每个epoch的损失变化以及权重和偏置的更新。最终，对于输入为4的情况，给出了每个优化器对应的模型预测输出。

摘要由CSDN通过智能技术生成

import torch


class LinearModel(torch.nn.Module):

    def __init__(self):
        super(LinearModel, self).__init__()
        self.linear = torch.nn.Linear(1, 1)

    def forward(self, x):
        y_pred = self.linear(x)
        return y_pred


# prepare dataset
x_data = torch.tensor([[1.0], [2.0], [3.0]])
y_data = torch.tensor([[2.0], [4.0], [6.0]])

model = LinearModel()
# 构造损失计算与优化器
criterion = torch.nn.MSELoss(size_average=False)
optimizer_sgd = torch.optim.SGD(model.parameters(), lr=0.01)
optimizer_adam = torch.optim.Adam(model.parameters(), lr=0.01)
optimizer_asgd = torch.optim.ASGD(model.parameters(), lr=0.01)
opt = []
opt.append(optimizer_sgd)
opt.append(optimizer_adam)
opt.append(optimizer_asgd)
pred_saver = {}
epoch_list = [i for i in range(1000)]
for optimizer in opt:
    loss_each = []
    for epoch in range(100):
        y_pred = model(x_data)
        loss = criterion(y_pred, y_data)
        print(epoch, loss.item())
        loss_each.append(loss.item())
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
    print("w", model.linear.weight.item(), "bias",model.linear.bias.item())
    # 测试模型在输入数据为4时，输出为何值
    pred_saver[optimizer] = model(torch.tensor([[4.0]])).item()

for k, v in pred_saver.items():
    print(k.__class__, v)