如何对xgboost模型进行优化

1.xgboost可以调参的参数如下:
n_estimatores
含义:总共迭代的次数,即决策树的个数
调参:70,80,90
max_depth
含义:树的深度,默认值为6,典型值3-10。
调参:3,值越大,越容易过拟合;值越小,越容易欠拟合
scale_pos_weight
含义:正负样本权重占比,。
调参:130,正样本权重越高,召回率越高,精度越低。正样本权重越低召回率越低,精度越高。
learning_rate
含义:学习率,。
调参:0.05
colsample_bytree
含义:训练每棵树时,使用的特征占全部特征的比例。默认值为1,典型值为0.5-1,防止overfitting。
调参:0.8,1
其余未调节参数
alpha L1正则化系数,默认为1
lambda L2正则化系数,默认为1
early_stopping_rounds
含义:在验证集上,当连续n次迭代,分数没有提高后,提前终止训练。
调参:防止overfitting。
min_child_weight
含义:默认值为1,。
调参:值越大,越容易欠拟合;值越小,越容易过拟合(值较大时,避免模型学习到局部的特殊样本)。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值