LGBM函数及参数详解

最新推荐文章于 2024-08-23 15:57:45 发布
最新推荐文章于 2024-08-23 15:57:45 发布
阅读量2.2w 收藏 49
点赞数 6
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38267719/article/details/88963422
版权
本文详细介绍了LightGBM的Python API，包括Dataset类和Booster类的使用，以及lightgbm.train和lightgbm.cv的训练与评估参数。重点讲解了如参数params中的objective、metric、boosting等关键配置项，以及如何控制模型复杂度和防止过拟合。
摘要由CSDN通过智能技术生成

LGBM Python API

Dataset

class lightgbm.Dataset(data, label=None, max_bin=None, reference=None, weight=None, group=None, init_score=None, silent=False, feature_name='auto', categorical_feature='auto', params=None, free_raw_data=True)

创建一个带label的训练集和交叉验证集

    trn_data = lgb.Dataset(X_tr, label=y_tr)
    val_data = lgb.Dataset(X_valid, label=y_valid)

Booster 

class lightgbm.Booster(params=None, train_set=None, model_file=None, silent=False)    #booster可用lgb来代替

  • params   字典形式的参数
  • train_set Training dataset.
  • model_file model文件的路径
  • silent 构建模型时是否打印信息

只要有lgb实例，就可以调用下列函数 ，包括 predict，

lgb.add_valid  添加交叉训练集 

lgb.attr(key)  Get attribute string from the Booster.

lgb.current_iteration()  Get the index of the current iteration.

lgb.dump_model(num_iteration=-1)   Dump Booster to jso

最低0.47元/天 解锁文章
一个小目标everyday
关注
LightGBM之LGBMRegressor()参数详解以及调参
我走的每一步都算数
09-19 2292
LightGBMLight Gradient Boosting Machine）是一种梯度提升框架，它使用决策树作为基学习器。LightGBM 可以说是在 XGBoost 上做的优化。LightGBM 为高效并行计算而生，它的 Light 体现在以下几个点上：更快的训练速度更低的内存使用支持单机多线程，多机并行计算，以及 GPU 训练能够处理大规模数据。
Lightgbm的重要参数
weixin_44245188的博客
04-10 878
​如果你设置的深度很深，但又无法向下分裂，LGBM就会提示warning，无法找到可以分裂的了，说明数据质量已经达到了极限了。lambda_l1 和 lambda_l2 对应着 L1 和 L2 正则化，和 XGBoost 的 reg_lambda 和 reg_alpha 是一样的，对叶子节点数和叶子节点权重的惩罚，值越高惩罚越大。一般的搜索范围可以在 (0, 100)。下面是参数的设置，Optuna比较常见的方式suggest_categorical，suggest_int，suggest_float。
记录2024年的一次lightgbm 夯实的调参流程
最新发布
LY的博客
08-23 786
使用lgb自带的cv来计算，先限定learning_rate为0.1，这样调整别的参数的时候可以迭代得更快一些。最优参数为:{'bagging_fraction': 0.4, 'feature_fraction': 0.4}最优参数为:{'lambda_l1': 0.3, 'lambda_l2': 0.08}这里选择先粗调再细调的策略，偷懒的话也可以直接细调，一步到位，但是代码会跑的久一些。最优参数为:{'num_leaves': 55}最优参数为:{'num_leaves': 38}
LightGBM参数说明与参数调优建议
ybdesire的专栏
09-23 8945
1. 引入 从识别率上来说，LGBM并不逊色于XGB和RF；LGBM在笔者很多场景下都优于CatBoost。 从工程化上来说，LGBM的模型size小、训练速度快、支持并发训练、兼容sklearn接口、支持GPU训练，这都使得LGBM的工程化能力更强。 和RF比较，在准确率相当的前提下，LGBM的size也是比RF小很多倍（LGBM=4M，RF=100MB）。 所以接下来写一下LGBM的调参思路, LGBM的参数以参考1中的接口LGBMClassifier命名为准（兼容sklearn的接口）。 2. 调参重
lgbm参数分析及回归超参数寻找
三年研究生能改变多少
12-24 2万+
参考：lgbm的github: https://github.com/Microsoft/LightGBM/blob/master/docs/Parameters.rst 代码来源参见我另一篇博客： https://blog.csdn.net/ssswill/article/details/85217702 网格搜索寻找超参数： from sklearn.model_selection impor...
lgbm
zhuiqiuuuu的博客
11-19 2394
lightgbm建模   import lightgbm as lgbm from sklearn import metrics from sklearn import model_selection     np.random.seed(42)   model = lgbm.LGBMRegressor( objecti...
lightgbmm_lgbm_lightGBM_
10-03
例如，`lgbm.plot_importance()`函数可以可视化特征的重要性，帮助我们理解模型的预测依据。 总结，lightgbm库和lightGBM工具是Python中实现高效梯度提升决策树的利器。它们结合了强大的算法和优秀的性能优化，为...
LightGBM 重要参数、方法、函数理解及调参思路、网格搜索（附例子）
热门推荐
VariableX的博客
07-10 6万+
文章目录一、LightGBM 原生接口重要参数训练参数预测方法绘制特征重要性分类例子回归例子二、LightGBM 的 sklearn 风格接口LGBMClassifier基本使用例子LGBMRegressor基本使用例子三、LightGBM 调参思路四、参数网格搜索 与 xgboost 类似，LightGBM包含原生接口和 sklearn 风格接口两种，并且二者都实现了分类和回归的功能。如果想了解一些理论性的内容，可以看看之前的文章：LightGBM 相关知识理解 一、LightGBM 原生接口 重要参数
ML之lightgbm：LightGBM参数手册、调参技巧/调参顺序/网格搜索实现、lightgbm.train/LGBMClassifier/LGBMRegressor函数简介及其案例应用之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
10-24 3万+
​ ML之lightgbm：LightGBM参数手册、调参技巧/调参顺序/网格搜索实现、lightgbm.train/LGBMClassifier/LGBMRegressor函数简介及其案例应用之详细攻略 目录 lightgbm库的调参技巧 LightGBM参数手册 lightgbm.train函数的参数解释 LGBMClassifier()函数的简介 LGBMRegressor()函数的简介 lightgbm库的调参技巧 1、经验技巧 (1)
GBDT_XGBoost_LGBM算法原理v1.11
08-03
GBDT算法原理与系统设计简介内容• 泰勒公式• 最优化方法• 梯度下降法（Gradient descend method）• 从参数空间到函数空间• 从Gra
lgb_python_特征提取_lgb预测_
10-01
lgb实现预测，包括提取特征，数据处理等pandas基础操作，可以学习
LGB 的 .feature_importance() 函数
雨化于画
07-29 1万+
对于机器学习训练来说，每一种特征对于机器学习训练的模型的重要性可能是不一样的，此时，这个函数就起到了作用。 feature_importance(importance_type='split', iteration=None) Get feature importances. Parameters: importance_type (string, optional (default=“s...
lgbm查看特征重要性
qq_39321513的博客
11-14 1209
lgbm查看特征重要性
LightGBM特征重要性画图
AI小学生的专栏
04-01 2万+
资料参考： 1. Evaluate Feature Importance using Tree-based Model 2. lgbm.fi.plot: LightGBM Feature Importance Plotting 3. lightgbm官方文档 前言 基于树...
LGBM调参方法学习
qq_34782535的博客
04-30 2万+
一、了解LGBM参数： LGBM是微软发布的轻量梯度提升机，最主要的特点是快，回归和分类树模型。使用LGBM首先需要查看其参数含义： 微软官方github上的说明： https://github.com/Microsoft/LightGBM/blob/master/docs/Parameters.rst#early_stopping_round LGBM中文手册： http://lightgbm....
【lightgbm】Light Gradient Boosting Machine(LGBM)
烦成航的博客
01-17 541
Light Gradient Boosting Machine(LightGBM, LGBM)
一文彻底看懂LightGBM
吟游诗人——吟唱生命的不朽
01-31 2154
本文适合有集成学习与XGBoost基础的读者了解LightGBM算法。 序 LightGBM是基于XGBoost的改进版，在处理样本量大、特征纬度高的数据时，XGBoost效率和可扩展性也不够理想，因为其在对树节点分裂时，需要扫描每一个特征的每一个特征值来寻找最优切分点，耗时较大。而LightGBM则提出了GOSS（Gradient-based One-Side Sampling，基于梯度的单边采样）和EFB（Exclusive Feature Bundling，互斥特征捆绑）来分别进行样本采样和降低特征维
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值