Python进行Logistic回归

第一步，导入库和数据；

# 导入库
from sklearn import datasets
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
# 使文字可以展示
plt.rcParams['font.sans-serif'] = ['SimHei']
# 使负号可以展示
plt.rcParams['axes.unicode_minus'] = False


# 读取数据
data = pd.read_excel('F:\\Desktop\\数据.xlsx')
data[:5]

第二步，处理数据；

# 增加 起点 和 终点 两列
data = pd.concat([data, pd.DataFrame(columns = ['起点', '终点'])], sort = True)

# 分割 I 列，为 起点 和 终点 列添加数据
n1 = []
for i in list(data['起终点'].values):
    i = i.split('-')
    n1.append(i)

for i in range(len(n1)):
    data['起点'][i] = n1[i][0]
    data['终点'][i] = n1[i][1]
    
import numpy as np
# 设置类标映射
class_mapping = {label:k for k,label in enumerate(np.unique(data['终点']))}
# 将类标转换为数字（这里数字仅代表类别，不代表大小）
data['终点'] = data['终点'].map(class_mapping)
data[:5]

第三步，数据建模；

# 选取 建模 数据
data1 = data[['乘车方式', '终点', '里程距离',  '行驶时间', '是否合心意', '可支配收入', '是否报销', '购票价格', '是否舒适', '是否注重时间成本']]

# 设置 X 和 y
X = data1.iloc[:, 1:]
y = data1.iloc[:, 0]

from sklearn.cross_validation import train_test_split
# 设置训练数据集和测试数据集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size = 0.3, random_state = 0)

# 数据标准化
from sklearn.preprocessing import StandardScaler
stdsc = StandardScaler()
# 将训练数据标准化
X_train_std = stdsc.fit_transform(X_train)
# 将测试数据标准化
X_test_std = stdsc.transform(X_test)

from sklearn.linear_model import LogisticRegression
lr = LogisticRegression(C = 10)
# lr在原始测试集上的表现
lr.fit(X_train_std, y_train)
# 打印训练集精确度
print('Training accuracy:', lr.score(X_train_std, y_train))
# 打印测试集精确度
print('Test accuracy:', lr.score(X_test_std, y_test))

# 打印系数
lr.coef_
# 打印截距
lr.intercept_

最后，模型评价。

# 绘制混淆矩阵
from sklearn.metrics import confusion_matrix
y_pred = lr.predict(X_test_std)
confmat = confusion_matrix(y_true=y_test, y_pred=y_pred)
print(confmat)

# 将混淆矩阵可视化
fig, ax = plt.subplots(figsize=(2.5, 2.5))
ax.matshow(confmat, cmap=plt.cm.Blues, alpha=0.3)
for i in range(confmat.shape[0]):
    for j in range(confmat.shape[1]):
        ax.text(x=j, y=i, s=confmat[i, j], va='center', ha='center')

plt.xlabel('预测类标')
plt.ylabel('真实类标')
plt.show()

# 获取模型的准确率和召回率
from sklearn.metrics import precision_score, recall_score, f1_score
# 准确率
print('Precision: %.4f' % precision_score(y_true=y_test, y_pred=y_pred))
# 召回率
print('Recall: %.4f' % recall_score(y_true=y_test, y_pred=y_pred))
# F1
print('F1: %.4f' % f1_score(y_true=y_test, y_pred=y_pred))

from sklearn.metrics import roc_curve, auc
from scipy import interp


# 设置图形大小
fig = plt.figure(figsize=(7, 5))

mean_tpr = 0.0
mean_fpr = np.linspace(0, 1, 100)
all_tpr = []
# 计算 预测率
probas = lr.fit(X_train, y_train).predict_proba(X_test)
# 计算 fpr,tpr    
fpr, tpr, thresholds = roc_curve(y_test, probas[:, 1], pos_label=1)
mean_tpr += interp(mean_fpr, fpr,  tpr)
mean_tpr[0] = 0.0
roc_auc = auc(fpr, tpr)
plt.plot(fpr, tpr, lw=1, label='ROC (area = %0.2f)' 
                    % ( roc_auc))
plt.plot([0, 1], [0, 1], linestyle='--', color=(0.6, 0.6, 0.6), label='random guessing')

mean_tpr /= len(X_train)
mean_tpr[-1] = 1.0
mean_auc = auc(mean_fpr, mean_tpr)
plt.plot([0, 0, 1], 
         [0, 1, 1], 
         lw=2, 
         linestyle=':', 
         color='black', 
         label='perfect performance')

plt.xlim([-0.05, 1.05])
plt.ylim([-0.05, 1.05])
plt.xlabel('假正率')
plt.ylabel('真正率')
plt.title('')
plt.legend(loc="lower right")
plt.show()