开篇几句题外话:
这里的原理还是要静下心来理解透,理解透了才能用的出来。
拼写不能出错,这么低级的错误,卡住了两天。step的拼写。
Lecture06 —— Logistics Regression 逻辑回归模型
说在前面:
- 虽然这叫回归模型,但是它分两种:能用于回归,也能用于分类;
- 本节是讲的二分类,背景是:学习多少小时能够考试通过;
- 训练好模型以后,直接用来预测,4小时的学习,能够通过的概率是多大?
详细过程(本节开始,只说与之前代码的不同之处):
- 在加载工具包的时候,由于要使用
sigmoid
的函数,而这个函数,是在torch.nn.functional
当中的,所以,先设置一个句柄等待使用:torch.nn.functional as F
; - 导入的数据中,
y_data
的值,不再是原来的预测:学习多久,得多少分?而是:x_data
个小时,是否会通过考试,把原本的预测回归问题,转为预测分类问题,而且此处是二分类,最终预测结果只有0
和1
,要么通过,要么不通过; - 在用于创建模型的类中,需要把原本的前向传播,计算结果转为概率,那么就需要用到
sigmoid
函数,这个函数,值域是(0,1),把原本输出的得分数值转为能够通过考试的概率,就是在这里用到了F
这个函数句柄,F.sigmoid
; - 另一个变化是损失函数,这里不在使用原本的
MSE
函数,而是使用分类任务常用的交叉熵损失函数,这个里面的原理,需要懂,刘老师讲完一下子就理解了,用到了torch,nn,BCELoss
函数; - 由于是分类任务,那么最后的预测,与之前的回归任务就不一样了,测试的时候,直接把一个需要预测的值传入模型当中:
x_test = torch.Tensor([[4.0]]) y_test = model(x_test)
完整代码:
#!usr/bin/env python
# -*- coding:utf-8 _*-
"""
@author: 24_nemo
@file: 06_Logistic Regression_handType.py
@time: 2022/04/10
@desc:
"""
import torch
import matplotlib.pyplot as plt
import torch.nn.functional as F
import os
os.environ['KMP_DUPLICATE_LIB_OK'] = 'True'
x_data = torch.Tensor([[1.0], [2.0], [3.0]])
y_data = torch.Tensor([[0], [0], [1]])
class LogisticRegressionModel(torch.nn.Module):
def __init__(self):
super(LogisticRegressionModel, self).__init__()
self.linear = torch.nn.Linear(1, 1)
def forward(self, x):
y_hat = F.sigmoid(self.linear(x))
return y_hat
model = LogisticRegressionModel()
criterion = torch.nn.BCELoss(size_average=False)
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
epoch_list = []
loss_list = []
for epoch in range(1000):
y_hat = model(x_data)
loss = criterion(y_hat, y_data)
print(epoch, loss.item())
optimizer.zero_grad()
loss.backward()
optimizer.step()
epoch_list.append(epoch)
loss_list.append(loss.item())
print('w =', model.linear.weight.item())
print('b =', model.linear.bias.item())
x_test = torch.Tensor([[4.0]])
y_test = model(x_test)
print('y_pred = ', y_test.data)
plt.plot(epoch_list, loss_list)
plt.xlabel('epoch')
plt.ylabel('loss')
plt.show()
运行结果:
上一篇:
【Pytorch深度学习实践】B站up刘二大人之Linear Regression with PyTorch-代码理解与实现(4/9)
下一篇:
【Pytorch深度学习实践】B站up刘二大人之Multiple Dimension Logistic Regression Model-代码理解与实现(6/9)