【lightgbm 使用经验总结教训】

最新推荐文章于 2024-08-07 14:48:28 发布
最新推荐文章于 2024-08-07 14:48:28 发布
阅读量2.1w 收藏 40
点赞数 4
分类专栏： 机器学习学习心得 比赛经历与总结分享 文章标签： ML DM
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37922734/article/details/80677736
版权

 

做快手公司举办的2018中国高校计算机大赛--大数据挑战赛有半个月了，从5月30日开始到现在基本一直在构造特征，但是当我构造的特征到后期的时候，发现加特征之后，明明验证集上的准确率提高了，但是线上的结果一直提不上去，我怀疑的是特征的问题，但是今天6月13日，我仔细看了lightgbm算法的说明文档后才发现，我用的earlystopping方法一直没有用迭代最好的那一次去预测，即这个
同时，有一个新发现，lightgbm可以自动处理类别特征

 

 

同时，还有自动缺失值的处理

 

 

开了一个技术交流的公众号，里面记录一些在学习有关深度学习，推荐系统与机器学习过程中的笔记与心得，欢迎关注~

                                                                   

Wanderist_ZK
关注
专栏目录
LightGBM在排序任务中的应用
程序员光剑
04-05 708
LightGBM在排序任务中的应用 作者：禅与计算机程序设计艺术 1. 背景介绍 在数据科学和机器学习领域中,排序(Ranking)是一个非常重要的任务。从电商网站的商品排名,到搜索引擎的网页排名,再到推荐系统中的内容排序,排序都扮演着关键的角色。高质量的排序不仅能够改善用
【超详细】LightGBM介绍与应用
allein_STR的博客
01-03 1572
【超详细】LightGBM介绍与应用
lightGBM的使用示例
忘三日的博客
07-11 442
使用LightGBM回归器对鸢尾花数据集进行了训练和预测和对吃鸡游戏的排名预测
lightgbm模型保存为pmml文件，并加载
最新发布
m0_63841024的博客
08-07 514
5.在pmml-lightgbm-example目录下会生成target文件，target目录下会生成.jar文件7.在此目录下可生成.pmml文件。
LightGBM Light Gradient Boosting Machine
JasonH2021的博客
08-13 1325
本文简单介绍了Lightgbm的基本概念，优缺点，建模时的注意事项，实现方法，python示例和模型的参数等。
样本不均衡问题下的LightGBM处理策略
# 1. 样本不均衡问题简介 ## 1.1 什么是样本不均衡问题 在训练数据集中，不同类别的样本数量存在较大差异，即样本分布不均衡，这就是样本不均衡问题。通常情况下，少数类别的样本数量远远少于多数类别，这可能导致...
AI_05_刘又源_房价预测项目总结报告1
08-04
2.2.5 集成学习：如AdaBoost、GBDT(XGBoost, lightGBM)，通过组合多个弱学习器提升整体性能。 3. 项目流程与进展： 3.1 项目流程分为数据采集、清洗、预处理、特征工程、模型训练和评估等步骤。其中，算法...
[落选]2021微信大数据挑战赛_总结
博客
07-20 1342
确实很早就知道了这个比赛，但似乎一直没有开始。 之前也就刚打完一个泰迪杯，对于竞赛可以说是一无所知。 于是就等baseline，等到了麻婆豆腐1的那个版本。 5月20日开赛，我跑baseline大概都快6月中旬。 那时候一边忙着期末的各种大项目，一边找竞赛的各种指导和资料。 跑完麻婆豆腐那个，还是一头雾水，不知道这到底是怎么操作的。 当时为了LabelEncoder、OneHotEncoder都看了好久 后来找到了天才儿童（好像是这个名字）的baseline2，结构清晰 这里面的特征工程几乎都是由for循环
kaggle2014criteoctr竞赛方案整理.zip
10-22
在这个竞赛中，常见的模型有逻辑回归、随机森林、梯度提升机（如XGBoost、LightGBM）、神经网络（如深度学习的DNN、卷积神经网络CNN）等。这些模型各有优势，如树模型擅长处理非线性关系，神经网络能捕获复杂模式。...
XGBoost模型及LightGBM模型案例（Python）
qq_42433311的博客
04-29 1万+
XGBoost算法原理参考其他详细博客以及官方文档 LightGBM算法原理参考其他详细博客以及官方文档 这里介绍两个算法的简单案例应用。 1 XGBoosting案例：金融反欺诈模型 信用卡盗刷一般发生在持卡人信息被不法分子窃取后复制卡片进行消费或信用卡被他人冒领后激活并消费等情况下。一旦发生信用卡盗刷，持卡人和银行都会遭受一定的经济损失。因此，通过大数据技术搭建金融反欺诈模型对银行来说尤为重要。 1.1模型搭建 1.1.1读取数据 通过如下代码读取1000条客户信用卡的交易数据。 特..
常见集成学习算法模型&LightGBM示例
跌跌撞撞进大坑的博客
12-06 2225
集成学习——介绍 是一种机器学习范式。在集成学习中，我们会训练多个模型（通常称为 弱学习器）解决相同的问题，并将它们结合起来以获得更好的结果。最重要的假设是：当弱模型被正确组合时，我们可以得到更精确和/或更鲁棒的模型。 有自助聚合（bagging）、提升法（boosting）、堆叠法（stacking）以及许多其它的基础集成学习模型 常见的三种集成学习模型 bagging——可以并行执行，每一棵树权重是一样的 随机森林 boosting——串行执行的，后一棵树学习的是前一棵树模型的error（
LightGBM 重要参数、方法、函数理解及调参思路、网格搜索（附例子）
热门推荐
VariableX的博客
07-10 6万+
文章目录一、LightGBM 原生接口重要参数训练参数预测方法绘制特征重要性分类例子回归例子二、LightGBM 的 sklearn 风格接口LGBMClassifier基本使用例子LGBMRegressor基本使用例子三、LightGBM 调参思路四、参数网格搜索 与 xgboost 类似，LightGBM包含原生接口和 sklearn 风格接口两种，并且二者都实现了分类和回归的功能。如果想了解一些理论性的内容，可以看看之前的文章：LightGBM 相关知识理解 一、LightGBM 原生接口 重要参数
机器学习——LightGBM
Heitao5200的博客
01-02 4386
1. LightGBM概述 LightGBM（Light Gradient Boosting Machine）是一个基于决策树算法的快速的、分布式的、高性能 gradient boosting（GBDT、GBRT、GBM 或 MART）框架，可被用于排行、分类以及其他许多机器学习任务中。 2. LightGBM的起源 GBDT 虽然是个强力的模型，但却有着一个致命的缺陷，不能用类似 mini ba...
LightGBM简介
李霁明的博客
05-08 4013
文章目录1、LightGBM简介1.1 GBDT简介决策树的演化：2、XGBoost3、LightGBM原理 1、LightGBM简介     LightGBM(Light Gradient Boosting Machine)是一个实现GBDT算法思想的框架，由微软DMTK团队开源的boosting decision tree工具。 1.1 GBDT简介     GBDT(Gradient Boosting Decision Tree)指的是梯度提升决策树，在传统机器学习算法里面是对真实分布拟合的最好的几种
LightGBM官方中文文档上线啦！
Kelisiya
01-04 5万+
有幸可以参与这次文档的翻译工作，下一次参与翻译的应该就是N久没有更新的Pytorch中文文档啦！走过路过的大佬请点个star让我以后好装逼，谢谢各位了，Orz主页地址：http://lightgbm.apachecn.org/cn/latest/index.htmlGithub：https://github.com/apachecn/lightgbm-doc-zh请点进Github帮忙点个star，
lightgbm的GPU训练速度比CPU速度还要慢是怎么回事
微电子学与固体电子学-俞驰
09-20 4051
[1]中提到了链接[2],[2]中提到很多GPU是不被Lightgbm所支持的, 也就是说,能跑,但是没发加速. 即: 是你显卡的锅. Supported Hardware We target AMD Graphics Core Next ...
lightGBM参数调优
marmalade要天天向上
07-15 476
http://www.zeroyx.com/index.php?r=site/art&id=17&title_id=121
python的lightgbm使用方法
03-31
LightGBM是一个基于梯度提升决策树（Gradient Boosting Decision Tree）的机器学习框架，它在处理大规模数据集时具有高效性能。下面是Python中使用LightGBM的基本步骤： 1. 安装LightGBM库：使用pip命令安装LightGBM库，例如：`pip install lightgbm` 2. 导入必要的库：在Python脚本中导入LightGBM库和其他需要的库，例如： ```python import lightgbm as lgb from sklearn.model_selection import train_test_split ``` 3. 准备数据集：将数据集划分为训练集和测试集，并将其转换为LightGBM所需的数据格式。通常，LightGBM可以直接处理原始数据，无需进行特征缩放或独热编码。 4. 创建LightGBM数据集：使用`lgb.Dataset()`函数创建LightGBM所需的数据集对象，例如： ```python train_data = lgb.Dataset(X_train, label=y_train) test_data = lgb.Dataset(X_test, label=y_test) ``` 5. 设置模型参数：定义LightGBM模型的参数，例如学习率、树的数量、最大深度等。可以使用`lgb.train()`函数的`params`参数来设置这些参数。 6. 训练模型：使用`lgb.train()`函数训练LightGBM模型，例如： ```python model = lgb.train(params, train_data, num_boost_round=100) ``` 7. 模型预测：使用训练好的模型进行预测，例如： ```python y_pred = model.predict(X_test) ``` 8. 模型评估：根据任务类型选择适当的评估指标，例如分类任务可以使用准确率、召回率等指标进行评估。 9. 调参优化：根据模型表现进行参数调整和优化，以提高模型性能。
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值