1.问题描述:
已知三组学习时长和最终得分的数据,建立数学模型,预测学习时长为4小时的最终得分
2.随机梯度下降:
x:学习时长 y:最终得分
模型:本文采用线性回归y_pred=wx+b,求解参数w,b。也可以调节线性层bias=False,y_pred=wx,只调节参数w。
损失函数:本文采用loss=sum((y_pred-y)**2),也可以调节MSELoss中的参数size_average=True,损失函数loss=sum((y_pred-y)**2)/n
其中:y_pred为穷举不同w,b时x对应的预测输出,loss最小时参数w,b最优。因为要用到loss对w,b的梯度,故使用pytorch 自动求导机制,将w,b的梯度在反向计算完成时保存在tensor类型的w,b变量中。
3.python代码:
import torch
import matplotlib.pyplot as plt
from torch import optim
from torch.nn import MSELoss, Linear
# 准备数据,Tensor类型
x_data = torch.Tensor([[1], [2], [3]])
y_data = torch.Tensor([[2], [4], [6]])
# 建立模型,计算y_pred
class model(torch.nn.Module):
def __init__(self):
super(model, self).__init__()
# 设置线性层有偏置,即y=wx+b,不加偏置的话设置bias=False,y=wx
self.linear1 = Linear(1, 1, bias=True)
def forward(self, x):
y_pred = self.linear1(x)
return y_pred
# 类实例化
my_model = model()
# 创建loss函数为MSE函数,size_average=True条件下loss=sum((y_pred-y)**2)/n,size_average=False时loss=sum((y_pred-y)**2)
loss_cal = MSELoss(size_average=True)
# 创建优化器,随机梯度下降,调整参数
optimizer = optim.SGD(my_model.parameters(), lr=0.01)
# 空列表,用于保存迭代次数epoch,损失函数值loss
epoch_list = []
loss_list = []
# 开始训练
for epoch in range(1000):
epoch_list.append(epoch)
# 前向计算y_pred
y_pred = my_model(x_data)
# 计算loss
loss = loss_cal(y_pred, y_data)
loss_list.append(loss.data)
# 梯度清零
optimizer.zero_grad()
# 反向传播计算梯度
loss.backward()
# SGD调参
optimizer.step()
# 输出线性层参数w,b
print(my_model.linear1.weight.data)
print(my_model.linear1.bias.data)
# 测试用例
x_test = torch.tensor([4.0])
y_test = my_model(x_test)
print(y_test)
# loss迭代曲线图
plt.figure()
plt.plot(epoch_list, loss_list)
plt.xlabel("epoch")
plt.ylabel("loss")
plt.show()
4.可视化结果:
随着迭代次数增加,loss逐步减小。
输出w,b约等于2,0。测试x=4时预测结果y=8。
5.以上均为个人学习pytorch基础入门中的基础,浅做记录,如有错误,请各位大佬批评指正!
6.关于问题描述和原理的部分图片参考刘老师的视频课件,本文也是课后作业的一部分,特此附上视频链接,《PyTorch深度学习实践》完结合集_哔哩哔哩_bilibili,希望大家都有所进步!