pytorch学习记录——线性模型

从最简单的线性模型来体验pytorch的整个流程

1、DataSet，

2、Model，根据数据集选择适合的模型，如：神经网络，决策树等等

3、Training，

4、inferring，用于推理工作

举个例子：下面是数据集

import numpy as np
import matplotlib.pyplot as plt

#  prepare the train set
x_data = [1.0,2.0,3.0]
y_data = [2.0,4.0,6.0]

#  define the model,这里把咱们模型定义为前馈，linear model: y_hat=x*w
def forward(x):
    return x * w

#  define the loss function
def loss(x,y):
    y_pred = forward(x)
    return (y_pred-y) **2

#因为我们会取好多个权重值，所以我们定义两个空列表来保存权重值和其对应的损失值
w_list = []
mse_list = []

#采样权重进行训练
for w in np.arange(0.0,4.1,0.1):
    print('w=',w)
    l_sum = 0

    for x_val, y_val in zip(x_data,y_data):
        y_pred = forward(x_val)
        loss_val = loss(x_val,y_val)
        l_sum += loss_val
        print('\t',x_val,y_val,y_pred,loss_val)
    print('MSE=',l_sum / 3)
    w_list.append(w)
    mse_list.append(l_sum/3)

#  画出权重和loss的关系图
plt.plot(w_list,mse_list)
plt.ylabel('loss')
plt.xlabel('w')
plt.show()

 可以从生成的关系图中看出当w=2时，损失最小。

在深度学习中，基于某些超参数，我们也会画这种损失图，但横坐标就要改成训练的次数epoc，来判断训练进入收敛

深度学习中的两个问题：

①可视化问题：

模型在训练过程中，实时地画一些图：visdom(facebook开源的一个可视化工具包，可以用visdom这个库创建一个web服务，比如想知道自己模型训练怎么样了，可以远程访问一下服务器上visdom提供的web服务，具体可访问其官网介绍)

②断点重开问题：在深度学习训练过程可能中途就down了，这个时候就要定期存盘

这里留一个作业，用y_hat = x*w + b的线性模型来画损失图。(提示：两个参数，应该是曲面图)