本博客重点介绍深度学习代码框架,对于相关理论不进行更多的介绍。
参考资料
1. 线性回归
采用深度学习Pytorch框架搭建线性回归模型通常需要四个步骤:
- 准备数据
- 构建计算图:
①__init__()
②forward() - 构建损失函数和优化器
- 训练
①向前传播–>损失计算–>向后传播–>更新。
1.1 准备数据
import torch
# 1. 准备数据
x_data = torch.Tensor([[1.0], [2.0], [3.0]])
y_data = torch.Tensor([[2.0], [4.0], [6.0]])
1.2 构建计算图
通过重载nn.Module模块,自定义__init__()函数和forward()函数。
# 2. 构造计算图
class LinearModel(torch.nn.Module):
def __init__(self):
super(LinearModel, self).__init__()
self.linear = torch.nn.Linear(1, 1)
def forward(self, x):
y_pred = self.linear(x)
return y_pred
model = LinearModel()
1.3 构造损失函数和优化器
# 3. 构造损失函数和优化器
criterion = torch.nn.MSELoss()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
1.4 训练过程
# 训练过程
for epoch in range(2000):
y_pred = model(x_data) # forward
loss = criterion(y_pred, y_data) # loss
print(epoch, loss)
optimizer.zero_grad()
loss.backward() # backward
optimizer.step() # step
print('w = ', model.linear.weight.item())
print('b = ', model.linear.bias.item())
注意点
- 在构造计算图时,必须定义__init__()和forward()函数模块。
- 模型训练时,需采用"forward–>loss–>zero_grad–>backward–>step"的步骤更新。