数据可视化案例-基于决策树的心脏病病情预测

一、数据描述

heart.csv数据集中包含14个特征变量，303个样本。利用该数据集，可以使用sklearn模块中的决策树分类器构建分类模型。具体的变量信息如下所示：

1、导入模块和数据集

# 导入模块
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns

import pydot
from sklearn import tree,model_selection,metrics 
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.metrics import classification_report
from sklearn.metrics import roc_auc_score,roc_curve
from sklearn.metrics import confusion_matrix
from sklearn.externals.six import StringIO
from IPython.display import Image  

导入数据集并展示前五个样本。

data=pd.read_csv("./input/heart.csv")
data.head()

2、数据探索

首先，观察患有心脏病和未患心脏病的人数差异：

data["target"].value_counts()

Out：1    165
     0    138
     Name: target, dtype: int64

countNoDisease = len(data[data.target == 0])
countHaveDisease = len(data[data.target == 1])
print("Percentage of Patients Haven't Heart Disease: {:.2f}%".format((countNoDisease / (len(data.target))*100)))
print("Percentage of Patients Have Heart Disease: {:.2f}%".format((countHaveDisease / (len(data.target))*100)))

Out：Percentage of Patients Haven't Heart Disease: 45.54%
     Percentage of Patients Have Heart Disease: 54.46%

患有心脏病和未患心脏病的人数分别为165和138，在调查样本中超过50%的人患有心脏病。决策树建模的目标应当是识别患有心脏病的人，提高对该类疾病的预防和治疗能力，从而提高人们整体的健康水平。

其次，观察样本数据中的性别人数差异：

countFemale = len(data[data.sex == 0])
countMale = len(data[data.sex == 1])
print("Percentage of Female : {:.2f}%".format((countFemale / (len(data.sex))*100)))
print("Percentage of Male : {:.2f}%".format((countMale / (len(data.sex))*100)))

Out：Percentage of Female : 31.68%
     Percentage of Male : 68.32%

绘制目标变量条形图和性别条形图。

plt.rcParams["font.sans-serif"] = ["SimHei"] 
plt.figure(figsize = (15,5))
plt.subplot(121)
sns.countplot(x="target", data=data, palette="bwr")
plt.title("目标变量条形图")

plt.subplot(122)
sns.countplot(x="sex", data=data, palette="mako_r")
plt.xlabel("Sex (0 = female, 1= male)")
plt.title("性别条形图")
plt.show()

制作交叉统计表：指定行变量为年龄，指定列变量为目标变量，并绘制分组统计频数条形图。

pd.crosstab(data.age,data.target).plot(kind="bar",figsize=(15,5))
plt.title("Heart Disease Frequency for Ages")
plt.xlabel("Age",fontsize = 15)
plt.ylabel("Frequency",fontsize = 15)
plt.savefig("heartDiseaseAndAges.png")
plt.show()

上图反映了在样本数据中，是否患病的人数在不同年龄的对比情况。

以上的数据探索反映的是有关调查样本的基本信息，包括调查样本在年龄、性别和目标变量上的频数分布，以及患病人群和非患病人群在年龄上的分布差异。

统计患有心脏病和未患心脏病的人的各类指标均值：

data.groupby("target").mean()

通过上述计算，可以看出患病者与非患病者在变量指标cp、ca、oldpeak、thalach、thal和slope上差异比较明显，为了具体利用上述指标对心脏病病情进行预测，接下来采用决策树分类器的方法建立简单的分类模型。

二、决策树分类可视化分析

1、划分训练集和测试集

在正式建模前，首先将数据集分为训练集和测试集两部分。其中训练集用来构建决策树模型，测试集用来评估模型性能，测试集占全部数据的20%。

y = data["target"].values
x = data.drop(["target"],axis=1,inplace=False)
X = data.drop(["target"],axis=1,inplace=False).values
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)
print("train dataset:{0};test dataset:{1}".format(X_train.shape,X_test.shape))

Out：train dataset:(242, 13);test dataset:(61, 13)

2、模型训练

使用sklearn模块的DecisionTreeClassifier算法构建决策树模型：参数min_samples_split(某节点的最少样本数)指定5，max_leaf_nodes(节点最大数量)指定8,模型参数的科学选取应该根据机器学习的相关知识进行比较分析得到。

clf = DecisionTreeClassifier(max_depth=10,min_samples_split=5,max_leaf_nodes=8)
clf.fit(X_train, y_train)

Out：DecisionTreeClassifier(class_weight=None, criterion='gini', max_depth=10,
            max_features=None, max_leaf_nodes=8, min_impurity_decrease=0.0,
            min_impurity_split=None, min_samples_leaf=1,
            min_samples_split=5, min_weight_fraction_leaf=0.0,
            presort=False, random_state=None, splitter='best')

计算模型在训练集和测试集上的得分：

train_score = clf.score(X_train,y_train)
test_score = clf.score(X_test,y_test)
print("train score:{0};test score{1}".format(train_score,test_score))

Out：train score:0.8677685950413223;
     test score0.7704918032786885

当模型在训练集上的得分与在测试集上的得分相差过大时，说明模型出现了过拟合；当训练得分过低时，说明模型拟合效果不佳，即欠拟合，过拟合和欠拟合的问题出现时应及时调整模型参数。

绘制决策树：

dot_data = StringIO()  
tree.export_graphviz(clf, out_file = dot_data,
                     feature_names = x.columns,
                     class_names=["0","1"],
                     filled = True, 
                     rounded = True,
                     special_characters = True) 
(graph,) = pydot.graph_from_dot_data(dot_data.getvalue()) 
Image(graph.create_png())

上图中，可视化元素之一颜色分为两个色系，一个是蓝色系代表患有心脏病的人群；另一个是橙色系代表未患心脏病的人群，颜色越深代表结果的不纯度越低，其中也用gini指标来具体衡量分类结果不纯度的高低。

3、模型性能评估

计算模型预测的准确率：

y_predict = clf.predict(X_test)
print("混淆矩阵：")
print(metrics.confusion_matrix(y_test,y_predict))
print("正确率：")
print(metrics.accuracy_score(y_test,y_predict))

Out：混淆矩阵：
     [[21  7]
     [ 7 26]]
     正确率：
     0.7704918032786885

绘制模型预测性能热力图：

mat = confusion_matrix(y_test, y_predict)
plt.figure(figsize = (10,5))
sns.heatmap(mat.T, square=True, annot=True, fmt="d", cmap="PuRd")
plt.xlabel("predicted value",fontsize = 15)
plt.ylabel("true value",fontsize = 15)
plt.show()

在61个样本数据中，模型预测的正确率为77.05% ，28个未患有心脏病的人群中，模型正确预测了21个；33个患有心脏病的人群中，模型正确预测了26个。

print(classification_report(y_test, y_predict, target_names=["Non Disease", "Disease"]))

Out：             precision    recall  f1-score   support

    Non Disease       0.75      0.75      0.75        28
        Disease       0.79      0.79      0.79        33

    avg / total       0.77      0.77      0.77        61

clf.score(X_test, y_test)

Out： 0.7704918032786885

最后，使用ROC曲线和AUC面积对模型进行可视化评价：

#数据准备
y_prob = clf.predict_proba(X_test)[:,0]
fpr,tpr,threshold = metrics.roc_curve(y_test, y_prob, pos_label=0)
roc_auc = metrics.auc(fpr,tpr)*100

#绘制ROC曲线与AUC面积：
plt.rcParams["font.sans-serif"] = ["SimHei"] 
plt.rcParams["font.family"] = ["sans-serif"]
fig,ax = plt.subplots(figsize = (8,5))
plt.plot(fpr, tpr, color = "red",lw = 2) 
plt.plot([0, 1], [0, 1], color = "orange", lw = 2, linestyle = '--')
plt.text(0.6,0.5,"AUC = %0.1f %%" % roc_auc, fontsize = 15)
ax.fill_between(fpr,0, tpr, facecolor = "23661", alpha = 0.3)
plt.xlim([-0.1, 1.1])
plt.ylim([-0.1, 1.1])
plt.xticks([0,0.2,0.4,0.6,0.8,1])
plt.xlabel("假正率FPR",fontsize = 15)
plt.ylabel("真正率TPR",fontsize = 15)
plt.title("ROC & AUC",fontsize = 20)
plt.show()

ROC曲线以FPR作为横轴，TPR作为纵轴，ROC曲线下的面积AUC的值在一定程度上代表了模型的性能。如上图所示，该决策树模型的AUC为80.1%。

综上所述，本案例使用sklearn模块中的决策树算法对是否患有心脏病的人群构建分类模型并绘制决策树图形，使用混淆矩阵、正确率、AUC面积对该模型进行评价。