python (2) 逻辑回归实例

import torch
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

#数据预处理
#因为把数据集第一列当成了表头，所以写一句
data = pd.read_csv('C:\\Users\\qjjt\\Desktop\\python\\dataset\\第4章\\credit-a.csv',header=None)
print(data.head())#注意这里第16列是输出，不是特征值，所以要注意选取
#iloc函数根据位置索引，:是所有行都取。:-1取到-1前的列的特征
X = data.iloc[:,:-1]
Y = data.iloc[:,-1]
Y.unique() #查看Y的取值，可看见为1，-1，这里因为是逻辑回归，最好改为0,1
Y = data.iloc[:,-1].replace(-1,0)#将y中的-1替换为0
print(Y.unique())

#数据预处理，从pandas转为tensor
X = torch.from_numpy(X.values).type(torch.float32)#X的值转为tensor后指定数据类型为float32

print(X.shape) #可看出x的值是一个矩阵
print(Y.values) #可看出y是一个array，所以需要reshape成列向量的样子.因为X是[653,15],所以Y也要变成[653,1]
Y = torch.from_numpy(Y.values.reshape(-1,1)).type(torch.float32)
print(Y.size()) #torch.Size([653, 1])

from torch import  nn

#ky直接将多个层顺序组合成一个模型
# 第一层linear层输入15个特征值，输出一个参数
# 第二层sigmoid层转换，输出0,1
model = nn.Sequential(
            nn.Linear(15,1),
            nn.Sigmoid()
)
print(model) #打印看看model样子

#二元交叉熵损失函数
loss_fn = nn.BCELoss()

#优化函数
opt = torch.optim.Adam(model.parameters(),lr = 0.001)

#batch训练，即从训练集中取出一部分训练
batch_size = 16   #一次训练16个数据
no_of_batch = 653//16  #最终要完成训练所花的次数，这里是整除

epoches = 1000 #epoche指全部数据训练一遍
for epoche in range(epoches):
    for batch in range(no_of_batch):
        start = batch*batch_size #每次从start行开始输入数据
        end = start + batch_size
        x = X[start:end] #一个批次中的x,y
        y = Y[start:end]
        y_pred = model(x)
        loss = loss_fn(y_pred,y)
        #梯度置零和计算参数梯度
        opt.zero_grad()
        #后向传播
        loss.backward()
        #优化
        opt.step()

#显示最终计算出来的w1.w2....w15和b的数值，
print(model.state_dict())

#查看实际预测结果，这里比较时都用的numpy
print((model(X).data.numpy() > 0.5).astype('int') == Y.numpy())
#预测模型正确率直接求均值即可得
print(((model(X).data.numpy() > 0.5).astype('int') == Y.numpy()).mean)

这里面损失，优化，后向传播概念可以看“反向传播算法”过程及公式推导（超直观好懂的Backpropagation）_aift的博客-CSDN博客_反向传播算法

反向传播详解_weixin_40788815的博客-CSDN博客_反向传播