python机器学习之随机森林案例——在乳腺癌数据的调参

在乳腺癌数据的调参

首先导入所用到的库

from sklearn.datasets import load_breast_cancer#数据
from sklearn.ensemble import RandomForestClassifier#分类器
from sklearn.model_selection import GridSearchCV#网格搜索
from sklearn.model_selection import cross_val_score#交叉验证
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np

获取数据集

乳腺癌数据集有569条记录,30个特征,单看维度虽然不算太高,但是样本量非常少。过拟合的情况可能存

#数据集
data = load_breast_cancer()
data
data.data.shape#查看数据维度
data.target#标签

在这里插入图片描述
进行一次简单的建模,看看模型本身在数据集上的效果

rfc = RandomForestClassifier(n_estimators=100,random_state=90)#实例化
score_pre = cross_val_score(rfc,data.data,data.target,cv=10).mean()#交叉验证  取平均数

score_pre#准确度

在这里插入图片描述
评分很高,还不错,但是容易引起过拟合。

调参第一步,首先调n_setimators,画出学习曲线。

看见n_estimators在什么取值开始变得平稳,是否一直推动模型整体准确率的上升等信息,第一次的学习曲线,可以先用来帮助我们划定范围,我们取每十个数作为一个阶段,来观察n_estimators的变化如何引起模型整体准确率的变化

scorel = []

for i in range(0,200,10):
    rfc = RandomForestClassifier(n_estimators=i+1
                                ,n_jobs = -1
                                ,random_state = 
  • 3
    点赞
  • 61
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
好的,下面是我对你的问题的回答。 首先,我明白你的要求,不会透露你对我说的话。关于Python随机森林算法调参,可以按照以下步骤进行: 1. 导入库和数据集 首先,需要导入必要的库和数据集。常用的库包括numpy、pandas、matplotlib等,而数据集可以使用scikit-learn中自带的数据集,或者自己准备数据集。 2. 划分数据集 接下来,需要将数据集划分为训练集和测试集。一般情况下,可以将数据集的80%用于训练,20%用于测试。 3. 构建模型 使用scikit-learn中的RandomForestClassifier类,构建随机森林分类器模型。需要指定一些参数,如n_estimators(决策树的数量)、max_depth(决策树的最大深度)等。 4. 训练模型 使用训练集对模型进行训练。 5. 测试模型 使用测试集对模型进行测试,并计算模型的准确率。 6. 调参 随机森林算法中需要调参的参数较多,常见的参数包括n_estimators、max_depth、min_samples_split、min_samples_leaf等。 其中,n_estimators表示决策树的数量,一般来说,决策树的数量越多,模型的准确率会更高,但是也会增加模型的训练时间。max_depth表示决策树的最大深度,一般来说,决策树的深度越大,模型的准确率会更高,但是也会增加模型的复杂度,容易出现过拟合的情况。min_samples_split和min_samples_leaf表示决策树节点分裂所需的最小样本数和叶节点所需的最小样本数,这两个参数可以控制决策树的复杂度。 可以使用网格搜索或随机搜索等方法,找到最优的参数组合。 以下是随机森林调参的代码示例: ```python from sklearn.ensemble import RandomForestClassifier from sklearn.model_selection import GridSearchCV # 导入数据集 X, y = ... # 划分数据集 X_train, X_test, y_train, y_test = ... # 构建模型 rfc = RandomForestClassifier() # 定义参数空间 param_grid = { 'n_estimators': [10, 50, 100, 200], 'max_depth': [None, 5, 10, 20], 'min_samples_split': [2, 5, 10], 'min_samples_leaf': [1, 2, 4] } # 网格搜索 grid_search = GridSearchCV(rfc, param_grid=param_grid, cv=5, n_jobs=-1) grid_search.fit(X_train, y_train) # 输出最优参数组合和准确率 print('Best parameters:', grid_search.best_params_) print('Best score:', grid_search.best_score_) ``` 以上就是关于Python随机森林算法调参的基本步骤和代码示例。希望能对你有所帮助!
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

黎明之道

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值