机器学习算法⑥—【逻辑回归】预测乳腺癌恶性程度

一. 项目背景

        逻辑回归算法是一种用于二分类和多分类问题的统计学习分类算法，用于预测离散的类别标签。接下来我们根据癌细胞的一些特征属性，来判断乳腺癌的恶性程度。

二. 思路分析

• 1.获取数据
• 2.数据清洗
  • 2.1 缺失值处理
  • 2.2 确定特征值,目标值
  • 2.3 数据集划分
• 3.特征工程(字典特征抽取)
• 4.决策树模型训练
• 5.模型评估

三. 代码实现

先来导入相应的模块：

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
from sklearn.model_selection import train_test_split # 数据集划分
from sklearn.preprocessing import StandardScaler # 标准化
from sklearn.linear_model import LogisticRegression # 逻辑回归
from sklearn.metrics import mean_squared_error, classification_report # 均方误差,精确率和召回率

再获取数据，看一下数据的基本信息：

 '''逻辑回归根据细胞的属性特征预测癌症恶性程度'''
# 1.获取数据
data = pd.read_csv(r"E:\AI课程笔记\机器学习\乳腺癌数据集.csv")
data.head(5)
data.info()

结果如下：

由数据可知，细胞一共有32个特征，第1列是标签，其他列是特征，没有缺失值需要处理，不需要进行数据清洗。因此我们进行进一步分析：将数据集分割为特征值和目标值。

x = data.iloc[:, 2:32].values
y = data.iloc[:, 1].values
train_x, test_x, train_y, test_y = train_test_split(x, y, test_size=0.25, random_state=0)

因为是逻辑回归，所以我们需要对特征值进行标准化，因为这是分类问题，所以无需对目标值进行标准化：

# 2.特征工程 -- 标准化
from sklearn.preprocessing import StandardScaler
std = StandardScaler()
train_x = std.fit_transform(train_x)
test_x = std.transform(test_x)

特征工程完成后，我们就可以实例化一个逻辑回归分类器，来训练模型了：

# 3.逻辑回归预估器
lg = LogisticRegression(C=1.0) # C:正则化系数
lg.fit(train_x, train_y)

模型训练结束后，我们就可以用训练好的模型来做预测：

 y_predict = lg.predict(test_x)

四. 模型评估

接下来我们打印一下回归系数，并用准确率，精确率和召回率来评估一下模型的性能：

print("回归系数为：", lg.coef_)
print("准确率为：", lg.score(test_x, test_y))
print("召回率和精确率为：", classification_report(test_y, y_predict, labels=["B","M"], target_names=["良性", "恶性"]))

输出结果如下：

由结果可知，模型的准确率是0.958，说明有95%都预测正确；恶性肿瘤的召回率是0.94，说明有94%的患者的肿瘤恶性程度可以被正确判别，6%的患者的肿瘤恶性程度无法被模型正确判别。