在本次学习中,利用PyTorh实现了线性模型,总结如下:
经过之前的学习,我们知道无论是使用pytorh实现线性模型或者是手动实现线性模型,实际上步骤都分为以下几步:
代码展示(附有释义):
①准备数据集
import matplotlib.pyplot as plt
import torch
import os
os.environ["KMP_DUPLICATE_LIB_OK"] = "TRUE"
#准备数据集
x_data = torch.tensor([[1.0],[2.0],[3.0]])
y_data = torch.tensor([[2.0],[4.0],[6.0]])
print(x_data.shape)
②设计模型
#构造模型
class LinearModel(torch.nn.Module):#将模型定义成一个类,模型类继承至Module
def __init__(self):#构造函数,初始化对象调用
super(LinearModel,self).__init__()#调用父类的构造
#!!注意这里的(1,1)是指输入和输出的特征维度,并不代表权重和偏置
self.linear = torch.nn.Linear(1,1)#实际上在构造一个对象,包含了权重和偏置两个tensor,形成权重与偏置构成的计算图模块,Linear类也是继承自Module,因此可以自动的进行反向传播
def forward(self,x):#实现前馈计算,backwoard()函数module构造出来的对象根据计算图可以自动实现反向传播
y_pred = self.linear(x)#计算y_hat,linear对象后加()实现可调用类,构造出wx+b计算图
return y_pred
model = LinearModel()#类的实例化,可实现调用
③构造损失函数和优化器
#构造损失函数和优化器
criterion = torch.nn.MSELoss(size_average=False)#使用Mse损失函数,对结果得到的损失向量求和形成标量损失值,过程实现也会构造计算图,Mseloss也是继承至module
optimizer = torch.optim.SGD(model.parameters(),lr=0.01)#采用梯度下降,lr指学习率,自动找出module里面的需要优化的权重
epoch_list=[]
loss_list=[]
④训练周期
#训练过程
for epoch in range(1000):
y_pred = model(x_data)#算出y_hat
loss = criterion(y_pred,y_data)
epoch_list.append(epoch)
loss_list.append(loss.data)
optimizer.zero_grad()#使得训练的权重归0
loss.backward()#反向传播
optimizer.step()#根据梯度和学习率对权重和偏置进行更新
print(f"epoch={epoch} loss={loss.data:3f}")
全部代码:
import matplotlib.pyplot as plt
import torch
import os
os.environ["KMP_DUPLICATE_LIB_OK"] = "TRUE"
#准备数据集
x_data = torch.tensor([[1.0],[2.0],[3.0]])
y_data = torch.tensor([[2.0],[4.0],[6.0]])
print(x_data.shape)
#构造模型
class LinearModel(torch.nn.Module):#将模型定义成一个类,模型类继承至Module
def __init__(self):#构造函数,初始化对象调用
super(LinearModel,self).__init__()#调用父类的构造
#!!注意这里的(1,1)是指输入和输出的特征维度,并不代表权重和偏置
self.linear = torch.nn.Linear(1,1)#实际上在构造一个对象,包含了权重和偏置两个tensor,形成权重与偏置构成的计算图模块,Linear类也是继承自Module,因此可以自动的进行反向传播
def forward(self,x):#实现前馈计算,backwoard()函数module构造出来的对象根据计算图可以自动实现反向传播
y_pred = self.linear(x)#计算y_hat,linear对象后加()实现可调用类,构造出wx+b计算图
return y_pred
model = LinearModel()#类的实例化,可实现调用
#构造损失函数和优化器
criterion = torch.nn.MSELoss(size_average=False)#使用Mse损失函数,对结果得到的损失向量求和形成标量损失值,过程实现也会构造计算图,Mseloss也是继承至module
optimizer = torch.optim.SGD(model.parameters(),lr=0.01)#采用梯度下降,lr指学习率,自动找出module里面的需要优化的权重
epoch_list=[]
loss_list=[]
#训练过程
for epoch in range(1000):
y_pred = model(x_data)#算出y_hat
loss = criterion(y_pred,y_data)
epoch_list.append(epoch)
loss_list.append(loss.data)
optimizer.zero_grad()#使得训练的权重归0
loss.backward()#反向传播
optimizer.step()#根据梯度和学习率对权重和偏置进行更新
print(f"epoch={epoch} loss={loss.data:3f}")
print('w=',model.linear.weight.item())
print("b=",model.linear.bias.item())
x_test = torch.tensor([[4.0]])
y_test = model(x_test)
print('y_pred',y_test.item())
plt.plot(epoch_list,loss_list)
plt.xlabel('Epoch')
plt.ylabel('loss')
plt.show()
结果展示:
本人小白一枚,刚入深度学习坑,纯粹自我总结,有问题请大佬指出!不胜感激