LightGBM-调参

最新推荐文章于 2024-06-18 16:44:59 发布

bhcgdh

最新推荐文章于 2024-06-18 16:44:59 发布

阅读量1.6k

点赞数 2

分类专栏： python 数据挖掘文章标签： python lightgbm tune 调参

本文链接：https://blog.csdn.net/bhcgdh/article/details/110001730

版权

本文介绍了LightGBM模型调参的重点，包括n_estimators、learning_rate、max_depth、num_leaves、feature_fraction、bagging_fraction+bagging_freq等参数。强调了参数设置的重要性，如学习率不是越小越好，树的最大深度需要防止过拟合，以及特征选择的比例等。建议根据数据特性逐步调整参数，以提高模型性能。

摘要由CSDN通过智能技术生成

LightGBM 分类树- 调参

对lightgbm几个比较重要的参数进行调优，以下是模型主要用到的几个包

# 导入数据分割， 模型验证，cv参数搜索，以及lightgbm包
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score,roc_auc_score, roc_curve, f1_score
from sklearn.model_selection import GridSearchCV
import lightgbm as gbm

参数可以分开进行，因为每次耗时也较多，可以按照参数的重要程度，每次搜索一个或者2个参数。整体参考如下：

param = {
   
    'n_estimators': range(200,1000,50),
    'learning_rate': [0.1, 0.05, 0.01, 0.001]       
    'max_depth': range(5,40,5)    
    'num_leaves': [</