1.xgboost可以调参的参数如下:
n_estimatores
含义:总共迭代的次数,即决策树的个数
调参:70,80,90
max_depth
含义:树的深度,默认值为6,典型值3-10。
调参:3,值越大,越容易过拟合;值越小,越容易欠拟合
scale_pos_weight
含义:正负样本权重占比,。
调参:130,正样本权重越高,召回率越高,精度越低。正样本权重越低召回率越低,精度越高。
learning_rate
含义:学习率,。
调参:0.05
colsample_bytree
含义:训练每棵树时,使用的特征占全部特征的比例。默认值为1,典型值为0.5-1,防止overfitting。
调参:0.8,1
其余未调节参数
alpha L1正则化系数,默认为1
lambda L2正则化系数,默认为1
early_stopping_rounds
含义:在验证集上,当连续n次迭代,分数没有提高后,提前终止训练。
调参:防止overfitting。
min_child_weight
含义:默认值为1,。
调参:值越大,越容易欠拟合;值越小,越容易过拟合(值较大时,避免模型学习到局部的特殊样本)。
如何对xgboost模型进行优化
最新推荐文章于 2024-07-11 19:07:01 发布