项目实战（二） - - 搭建简单神经网络

1. PyTorc项目流程

• ①数据读取、转换、加载
• ②将批量数据传入网络
• ③计算损失
• ④梯度清零
• ⑤反向传播计算梯度

2. 项目代码及解析

// 导入相关包
import torch
import torch.nn as nn

// 随机创建一些训练数据
N,D_in,H,D_out=64,1000,100,10
x=torch.randn(N,D_in)
y=torch.randn(N,D_out)

// 构造神经网络
class TwoLayerNet(torch.nn.Module):  
    def __init__(self,D_in,H,D_out):
        super(TwoLayerNet,self).__init__()
        self.linear1=torch.nn.Linear(D_in,H)
        self.linear2=torch.nn.Linear(H,D_out)
    def forward(self,x):
        y_pred=self.linear2(self.linear1(x).clamp(min=0))
        return y_pred

// 模型实例化
model=TwoLayerNet(D_in,H,D_out)

// 定义损失函数、优化函数
loss_fn=nn.MSELoss(reduction="sum")
optimizer=torch.optim.Adam(model.parameters(),lr=learning_rate)

// 训练过程
// Forward pass
    y_pred=model(x)    
// compute loss
    loss=loss_fn(y_pred,y)
// 梯度清零
	optimizer.zero_grad()
// Backward pass
    loss.backward() 
// update parameters
    optimizer.step()