刘二大人《PyTorch深度学习实践》logist回归

最新推荐文章于 2024-11-06 21:27:54 发布

pou6

最新推荐文章于 2024-11-06 21:27:54 发布

阅读量56

点赞数

文章标签： pytorch 人工智能 python

本文链接：https://blog.csdn.net/m0_66184663/article/details/131712413

版权

06.逻辑斯蒂回归_哔哩哔哩_bilibili

对于二分类问题

logist函数 $\sigma(x)$ 保证输出值在0~1之间

$\hat{y}=\sigma (x*w+b)$

常用的 $\sigma(x)=\frac{1}{1+e^{-x}}$

$loss=-(ylog\hat{y}+(1-y)log(1-\hat{y}))$

loss计算分布的差异而不是两个点之间值的差异（loss function for Binary Classification)

Mini-Batch版本(BCELoss)

$loss=-\frac{1}{N}\sum_{n=1}^{N}(y_nlog\hat{y_n}+(1-y_n)log(1-\hat{y_n})$

线性模型拟合二分类问题

import torch
import torch.nn.functional as F
import matplotlib.pyplot as plt
import numpy as np

x_data = torch.Tensor([[1.0],[2.0],[3.0]])
y_data = torch.Tensor([[0],[0],[1]])


class LogisticRegressionModel(torch.nn.Module):
    def __init__(self):
        super().__init__()
        self.linear=torch.nn.Linear(1,1)
    def forward(self,x):
        y_pred=F.sigmoid(self.linear(x))
        return y_pred



model=LogisticRegressionModel()

criterion=torch.nn.BCELoss(size_average=True)
optimizer=torch.optim.SGD(model.parameters(),lr=0.05)

epoch_list=[]
cost_list=[]

for epoch in range(10000):
    y_pred=model(x_data)
    loss=criterion(y_pred,y_data)
    print(epoch,loss.item())

    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

    epoch_list.append(epoch)
    cost_list.append(loss.item())  # loss


plt.plot(epoch_list,cost_list)
plt.ylabel('loss')
plt.xlabel('epoch')
plt.show()


# x_test=torch.Tensor([[2.5]])
# print('predict(after training)','x=4 y=',model(x_test).item())  ###训练后对x=4.0的y值预测


x=np.linspace(0,10,200)  #0~10取200个点
x_test=torch.Tensor(x).view((200,1))  #200行1列
y_test=model(x_test)
y=y_test.data.numpy()
plt.plot(x,y)
plt.plot([0,10],[0.5,0.5],c='r')  #0~10处 0.5~0.5划红线
plt.xlabel('Hours')
plt.ylabel("Probability of Pass")
plt.grid()
plt.show()







if __name__ == "__main__":
    main()