基于Logistic回归模型对鸢尾花数据集的线性多分类

一、Logistic回归分析

• 逻辑回归是用于处理因变量为分类变量的回归问题，常见的是二分类或二项分布问题，也可以处理多分类问题，它实际上是一种分类方法。

• 逻辑回归（Logistic Regression）与线性回归（Linear Regression）都是一种广义线性模型。不同之处在于逻辑回归假设因变量y服从二项分布，而线性回归假设因变量y服从高斯分布。

二、鸢尾花数据集的线性多分类

（一）取萼片的长宽作为特征进行分类

• 导入相关包

import numpy as np
from sklearn.linear_model import LogisticRegression
import matplotlib.pyplot as plt
import matplotlib as mpl
from sklearn import datasets
from sklearn import preprocessing
import pandas as pd
from sklearn.preprocessing import StandardScaler
from sklearn.pipeline import Pipeline

• 获取数据集

iris=datasets.load_iris()
X=iris.data
print(X)
Y=iris.target
print(Y)
X=X[:,:2]

• 归一化处理

X=StandardScaler().fit_transform(X)
print(X)

• 训练模型

lr=LogisticRegression()
lr.fit(X,Y)

• 绘制分类后的图像

N, M = 500, 500     # 横纵各采样多少个值
x1_min, x1_max = x[:, 0].min(), x[:, 0].max()   # 第0列的范围
x2_min, x2_max = x[:, 1].min(), x[:, 1].max()   # 第1列的范围
t1 = np.linspace(x1_min, x1_max, N)
t2 = np.linspace(x2_min, x2_max, M)
x1, x2 = np.meshgrid(t1, t2)                    # 生成网格采样点
x_test = np.stack((x1.flat, x2.flat), axis=1)   # 测试点

cm_light = mpl.colors.ListedColormap(['#77E0A0', '#FF8080', '#A0A0FF'])
cm_dark = mpl.colors.ListedColormap(['g', 'r', 'b'])
y_hat = lr.predict(x_test)       # 预测值
y_hat = y_hat.reshape(x1.shape)                 # 使之与输入的形状相同
plt.pcolormesh(x1, x2, y_hat, cmap=cm_light)     # 预测值的显示
plt.scatter(x[:, 0], x[:, 1], c=y.ravel(), edgecolors='k', s=50, cmap=cm_dark)    
plt.xlabel('petal length')
plt.ylabel('petal width')
plt.xlim(x1_min, x1_max)
plt.ylim(x2_min, x2_max)
plt.grid()
plt.show()

结果

• 预测模型

y_hat = lr.predict(x)
y = y.reshape(-1)
result = y_hat == y
print(y_hat)
print(result)
acc = np.mean(result)
print('准确度: %.2f%%' % (100 * acc))

预测结果

（二）取花瓣的长宽作为特征进行分类

方法和上面的一样，主要是数据处理上去后面两个特征值

iris=datasets.load_iris()
X=iris.data
print(X)
Y=iris.target
print(Y)
X=X[:,2:]

绘制结果

预测结果