pytorch——API实现线性回归

        在pytorch中预设了一些更加灵活简单的对象，让我们来构造模型、定义损失、优化损失等

1、nn.Module

        nn.Module是torch.nn提供的一个类，是pytorch中我们自定义网络的一个基类，在这个类中定义了很多的方法，使得我们在继承这个类的时候非常的简单。        

        当我们自定义网络的时候，有两个方法需要特别注意：

                1、__init__需要调用super方法，继承父类的属性和方法。

                2、farward方法必须实现，用来定义我们的网络向前计算的过程。

        采用的模型举例：

from torch import nn

class Lr(nn.Module):
    def __init__(self):
        super(Lr,self).__init__()#继承父类init的参数
        self.linear = nn.Linear(1,1)

    def forward(self,x):
        out = self.linear(x)
        return out 

        其中，nn_Linear为torch预定义好的线性模型，就是，也被成为全链接层，传入的参数为输入的数量和输出的数量（不是大小，而是特征数）

        nn_Module定义了__call__的方法，实现的就是调用forward方法，即Lr的实例，能够直接被传入参数调用，实际上调用的是forward方法并传入参数。

model = Lr()
predict = mode1(x)

         model就是实例化的模型，其中传入的参数可以直接传入到forward函数中。

2、优化器类

        优化器（optimizer），可以理解为torch为我们封装的用来进行更新参数的方法，比如常见的随机梯度下降（stochastic，gradient，descent，SGD），优化器都是由torch.optim提供的，例如：

torch.optim.SGD(参数,学习率)

torch.optim.Adam(参数,学习率)

        其中，参数可以使用model.parameters()来获取，获取模型中所有requires_grad=True的参数。

optimizer = optim.SGD(model.parameters(), lr = 1e-3)#实例化

optimizer.zero_grad()#梯度设为0

loss.backward()#计算梯度

optimizer.step()#更新参数的值

3、损失函数

         torch中也有很多损失函数。

均方误差：nn.MSELoss()#常用于回归问题

交叉熵损失：nn.CrossEntropyLoss()#常用于分类

        使用方法 ：

mode1 = Lr()#实例化模型
criterion = nn.MSELoss()#实例化损失函数
optimizer = optim.SGD(model.parameters(), lr = 1e-3)#实例化优化器类
for i in range(100):
    y_predict = model(x_true)#向前计算预测值
    loss = criterion(y_true,y_predict)#调用损失函数传入真实值和预测值，得到损失结果
    optimizer.zero_grad()#梯度设为0
    loss.backward()#计算梯度
    optimizer.step()#更新参数的值

4、线性回归的完整代码

import torch
from torch import nn
from torch import optim
import numpy as np
from matplotlib import pyplot as plt

#定义数据
x = torch.rand([50,1])
y = x * 3 + 0.8

#定义模型
class Lr(nn.Module):
    def __init__(self):
        super(Lr,self).__init__()#继承父类init的参数
        self.linear = nn.Linear(1,1)

    def forward(self,x):
        out = self.linear(x)
        return out 

#实例化模型、loss、优化器
model = Lr()#实例化模型
criterion = nn.MSELoss()#实例化损失函数
optimizer = optim.SGD(model.parameters(), lr = 1e-3)#实例化优化器类

#训练模型
for i in range(30000):
    y_predict = model(x)#向前计算预测值
    loss = criterion(y,y_predict)#调用损失函数传入真实值和预测值，得到损失结果
    optimizer.zero_grad()#梯度设为0
    loss.backward()#计算梯度
    optimizer.step()#更新参数的值
    if (i+1) % 20 == 0:
        print('Epach[{}/{}]，loss：{:.6f}'.format(i,30000,loss.data))

#模型的评估
model.eval()#设置模型为评估模式，即预测模式
predict = model(x)
predict = predict.data.numpy()
plt.scatter(x.data.numpy(),y.data.numpy(),c = 'r')
plt.plot(x.data.numpy(),predict)
plt.show()

        输出如下：

         注意：model.eval()表示设置模型为评估模型，即预测模式。model.train(mode=True)表示设置模型为训练模型，在写模型中，训练的参数和预测的参数会不相同，到时候就需要具体告诉程序我们是进行训练还是进行预测，比如模型中存在Dropout，BatchNorm。