01.决策树
通过sklearn机器学习工具库
代码十分简洁,内有详细步骤和解释。
直接复制,带入数据,进行调用即可出结果,模型参数设置见代码后
def Decision_Tree(X_train, Y_train, X_test, Y_test):
"""
X_train: 特征训练集
Y_train: 标注训练集
X_test: 特征测试集
Y_test: 标注测试集
"""
# 01.创建模型
from sklearn.tree import DecisionTreeClassifier
DTree_model = DecisionTreeClassifier()
# 02.训练模型
DTree_model = DTree_model.fit(X_train, Y_train)
# 03.模型预测
Y_pred = DTree_model.predict(X_test)
# 04.模型评价(accuracy_score:准确率;recall_score:召回率; f1_score:F值)
from sklearn.metrics import accuracy_score, recall_score, f1_score
print('ACC:', accuracy_score(Y_test, Y_pred))
print('REC:', recall_score(Y_test, Y_pred))
print('F-Score:', f1_score(Y_test, Y_pred))
return
这里的模型评价指标选择了:
① accuracy_score:准确率;
② recall_score:召回率;
③ f1_score:F值。
在上面代码中都是针对测试集的效果,也可以对训练集进行预测,然后评价训练集的效果,综合比较,可以看看是否会出现过拟合现象。
02.绘制决策树图:
需要预先在百度下载 Graphviz(专门用于绘制决策树的工具库),并安装好(需要记住安装路径位置,后面会用到)
代码十分简洁,内有详细步骤和解释。
填入安装的Graphviz路径,设置好参数后,直接复制下面代码到上面的决策树函数之中即可,模型参数设置见代码后
# 绘制决策树图
import os
os.environ['PATH'] = os.pathsep + r'……\bin'
"""将Graphviz设置到环境变量的路径中(后面为Graphviz软件中的bin文件夹安装的路径)"""
from sklearn.tree import export_graphviz
import graphviz
dot_data = export_graphviz(DTree_model,
out_file=None,
feature_names=X_train.columns,
class_names=['0', '1'],
filled=True,
rounded=True,
special_characters=True)
graph = graphviz.Source(dot_data)
graph.render('tree')
"""保存为PDF格式"""
export_graphviz()中的参数设置:
第一个参数为模型
参数out_fit=None:字符串格式(当做固定参数)
参数feature_names:特征的名称(列索引)
参数class_names:设置标注的类别名称
参数filled:是否填充背景
参数rounded:让图更好看一些
参数special_characters:让图更好看一些