决策树（考试版4）

作图需要专门下载graphviz软件
案例简介：
本节我们将通过一个例子讲解决策树如何预测患者需要佩戴的隐形眼镜类型。使用小数据集，我们就可以利用决策树学到很多知识:眼科医生是如何判断患者需要佩戴的镜片类型；一旦理解了决策树的工作原理，我们甚至也可以帮助人们判断需要佩戴的镜片类型。
1.数据准备
隐形眼镜数据集是非常著名的数据集,它包含很多患者眼部状况的观察条件以及医生推荐的隐形眼镜类型。隐形眼镜类型包括硬材质、软材质以及不适合佩戴隐形眼镜（lenses.txt）。
2.数据处理
解析tab键分隔的数据行
3.数据建模
调用pandas模块中的相关方法，建立决策树模型

import numpy as np
import pandas as pd
import csv
from sklearn.tree import DecisionTreeClassifier,export_graphviz
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction import DictVectorizer
from sklearn.metrics import mean_absolute_error,mean_squared_error#平局绝对平方误差
#读入并选择
data=pd.read_csv("lenses.txt",encoding="gbk",sep="\t")
features=data[['age', 'prescript', 'astigmatic', 'tearRate']]
targets=data['eye_types']

#特征提抽取one-hot编码
vect=DictVectorizer()
X_train=vect.fit_transform((features.to_dict(orient="records")))
features=pd.DataFrame(X_train.toarray(),columns=vect.get_feature_names())

#划分数据集
X_train,X_test,y_train,y_test=train_test_split(features,targets,test_size=0.25,random_state=2022)

#构建模型
clf=DecisionTreeClassifier(criterion="gini"
                           ,random_state=0  #random_state=0随机种子
                           ,splitter="random" #更随机,不看重要度
                           # ,max_depth=(2)
                           # ,min_samples_leaf=5
                           # ,min_samples_split=5
                           )
clf=clf.fit(X_train,y_train)
y_predict = clf.predict(X_test)
score=clf.score(X_test,y_test)
print("DecisionTreeClassifier score:",score)

import graphviz
from sklearn import tree
dot_data=tree.export_graphviz(clf,
                              feature_names=features.columns,
                              class_names=targets.unique(),
                              filled=True,#颜色
                              rounded=True#圆形轮廓
    )
graph=graphviz.Source(dot_data)

也可以直接输入图片文件
1、鼠标右键点击图片，save

2、运用以下代码画图

export_graphviz(clf,'DecisionTree.dot',feature_names=features.columns,class_names=targets.unique(),filled=True,rounded=True)
import os
path=os.getcwd()
lst=os.listdir(path)
for file in lst:
    if file.endswith(".dot"):
        filee=file.replace(".dot","")
        os.system("dot -Tpng {} -o {}.png".format(file,filee))