注:在本次实验中需安装graphviz模块
在用命令提示符(pip)安装不上模块时,可以直接在官网上下载https://graphviz.org/download/安装包
官网上下载有点慢:可以用网盘下载:链接:https://pan.baidu.com/s/1qikLWkNxU3TOasa4iV2pRw?pwd=qko1
提取码:qko1(在后续文章中会有问题的出现以及解决方法)
1.引入库、数据集
对数据集进行初步的处理,并将其划分为训练集和测试集
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
#加载数据
cancer = load_breast_cancer()
#分离数据,stratify作用为以分层方式分割数据,保持测试集与整个数据集里cancer.target的数据分类比例一致
#随机数种子为42
X_train, X_test, y_train, y_test = train_test_split(
cancer.data, cancer.target, stratify=cancer.target, random_state=42)
在无参数设置情况下,输出得分
#调用函数
tree = DecisionTreeClassifier(random_state=0)
#训练模型
tree.fit(X_train, y_train)
print("Accuracy on training set: {:.3f}".format(tree.score(X_train, y_train)))
print("Accuracy on test set: {:.3f}".format(tree.score(X_test, y_test)))
输出结果:
2.调参
- 利用数组和循环(学习曲线)求得最优参数(对比criterion值为‘gini’、'entropy'的得分)导入乳腺癌数据集,并在无参数设置情况下,输出得分
(1)当criterion='gini'时
#利用数组循环求得最优参数
score0= []
C = range(1,101,10)
for i in C:
tree = DecisionTr