04. BI - LightGBM vs CatBoost，具体实现分析

已于 2024-01-10 15:17:55 修改
阅读量886 收藏 18
点赞数 16
分类专栏： 茶桁的AI秘籍#BI 茶桁的 AI 会员专栏 文章标签： 人工智能 BI
于 2024-01-10 15:14:28 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ivandoo/article/details/135504288
版权

本文专辑： 茶桁的 AI 秘籍 - BI 篇

茶桁的AI秘籍 核心BI 04

文章目录


Hi，你好。我是茶桁。

那今天我们是来讲解另外两个Boosting的工具，首先是微软出品的LightGBM。

LightGBM

LightGBM 是微软提出来的, 是属于XGBoost的升级版，也曾经是Kaggle里面使用模型最多的机器学习的神器。当然，目前LightGBM 之外，BERT以及GPT都越来越受关注，但是Light

了解本专栏 订阅专栏 解锁全文 超级会员免费看
茶桁
关注
专栏目录
订阅专栏
01. BI - Project one, 员工离职预测
茶桁专栏
12-31 892
接下来的课程里，我给大家讲解一下机器学习的预测神器。就是XGBoost，LightGBM以及CatBoost这样的一些方法。这个方法在后续的机器学习工作中会经常使用到。不光是在工作中使用，如果你打一些比赛，也是一个必知必会的模型。
Boosting三巨头：XGBoost、LightGBM和CatBoost（发展、原理、区别和联系，附代码和案例）
Chaos的博客
03-09 5072
机器学习中，提高模型精度是研究的重点之一，而模型融合技术中，Boosting算法是一种常用的方法。在Boosting算法中，XGBoost、LightGBM和CatBoost是三个最为流行的框架。它们在实际使用中有各自的优势和适用场景，下面将会介绍它们的区别与联系。
30分钟学会CatBoost
Python_Ai_Road的博客
01-23 7532
一，CatBoost简介 CatBoost和XGBoost、LightGBM并称为GBDT的三大主流神器，都是在GBDT算法框架下的一种改进实现。正如其名字所说那样，CatBoost主要是...
xgboost
u013385018的专栏
05-08 293
通俗理解kaggle比赛大杀器xgboost（原理讲解） https://blog.csdn.net/v_july_v/article/details/81410574 xgboost原理分析以及实践（手动建树过程） https://blog.csdn.net/qq_22238533/article/details/79477547 xgboost如何处理缺失值(自动处理缺失值，而GBDT...
从结构到性能，一文概述XGBoost、Light GBM和CatBoost的同与不同
林夕
06-17 5400
尽管近年来神经网络复兴并大为流行，但是 boosting 算法在训练样本量有限、所需训练时间较短、 缺乏调参知识等场景依然有其不可或缺的优势。本文从算法结构差异、每个算法的分类变量时的处理、 算法在数据集上的实现等多个方面对 3 种代表性的 boosting 算法 CatBoost、Light GBM 和 XGBoost 进行了对比；虽然本文结论依据于特定的数据集，但通常...
XGBoost、LightGBM与CatBoost算法对比与调参
weixin_37737254的博客
04-05 3976
机器学习Author：louwillMachine Learning Lab 虽然现在深度学习大行其道，但以XGBoost、LightGBM和CatBoost为代表的Boostin...
03. BI - 详解机器学习神器 XGBoost
茶桁专栏
01-07 1299
这些机器学习的神器都跟集成学习相关，先给大家看一个概念叫集成学习。集成学习就是把多个分类器合到一起，可以把它理解成叫三个臭**裨将**顶个诸葛亮。
08. BI - 万字长文，银行如何做贷款违约的预测，特征处理及学习
最新发布
茶桁专栏
01-28 1093
那我们之前的课程里，带来了 Fintech 的应用场景，同时又对其中一个量化交易的场景做了一个简单实验。今天，咱们来另一个 Fintech 的场景，同样也是有数据，这个数据是来自于一场比赛。
2021科大讯飞-车辆贷款违约预测赛事 Top1方案！
Datawhale
10-21 1750
↑↑↑关注后"星标"Datawhale每日干货&每月组队学习，不错过Datawhale干货作者：望尼玛，浙江大学，Datawhale优秀选手知乎｜https://www.z...
XGBoost、LightGBM、Catboost对比
01-06
本文主要参考Battle of the Boosting Algos: LGB, XGB, Catboost，结果与原文有出入。 文章目录1. 对比标准1.1 数据集1.2 规则1.3 版本2. 结果2.1 准确率2.2 训练时间和预测时间2.3 可解释性2.3.1 特征重要性2.3.2 SHAP值2.3.3 可视化二叉树3. 总结4. 代码参考文献 1. 对比标准 1.1 数据集 分类：Fashion MNIST（60000条数据784个特征） 回归：NYC Taxi fares（60000条数据7个特征） 大规模数据集：NYC Taxi fares（2百万条数据7个特征） PS：本文只进行
机器学习通用代码（XGboost、LightGBM、Catboost）
02-12
机器学习算法XGboost、LightGBM、Catboost的代码架构，满足基本的数据分析，回归、二分类、多分类。
【机器学习课堂】树模型之XGBoost、LightGBM、CatBoost对比
do_you_ac_today的博客
12-01 3128
文 | Jin.Zhang 来自数据算法（gh_e67de4d10fad） 0. 前言 虽然近年深度学习的使用越来越广泛，但是在小数据集上树模型表现往往会更加优秀，也是中小规模数据集上首选使用的模型。理论上使用树模型可以对特征空间进行无限划分，同时可以加入反映树复杂度的正则项、剪枝策略等防止过拟合，因此通过参数调整权衡方差与偏差，可以得到较优的精度。 单一的树模型不太常用，提度提升树GBDT是一种精度更高的基于树的组合模型。XGBoost在GBDT的基础上，对目标函数增加了二...
模型融合方法
weixin_40347266的博客
09-05 1135
融合对象 融合对象，是不同的个体学习器 (Individual Leaner)。 对于个体学习器来说，它们的不同体现在： 不同训练数据：数据集使用比例、预处理方法 (缺失值填补、特征工程等)； 不同模型结构：RF、XGBoost、LightGBM、CatBoost、CNN、LSTM等； 不同超参：随机种子数、权重初始化、收敛相关参数 (例如学习率、batch size、epoch、早停步数)、损失函数、子采样比例等。 融合方法 1.投票法 适用于分类任务，对多个学习器的预测结果进行投票，即少数服从多数。
R︱Yandex的梯度提升CatBoost 算法（官方述：超越XGBoost/lightGBM/h2o）
素质云笔记
07-21 1万+
俄罗斯搜索巨头 Yandex 昨日宣布开源 CatBoost ，这是一种支持类别特征，基于梯度提升决策树的机器学习方法。 CatBoost 是由 Yandex 的研究人员和工程师开发的，是 MatrixNet 算法的继承者，在公司内部广泛使用，用于排列任务、预测和提出建议。Yandex 称其是通用的，可应用于广泛的领域和各种各样的问题。 笔者相关文章： R+工业级GBDT︱微软开源...
LightGBM原理简介
浅梦的学习笔记
09-28 4592
本文介绍了LightGBM的若干改进方法。
【机器学习】数据分析王者 CatBoost vs. Light GBM vs. XGBoost
白糖炒栗子
10-22 3476
机器学习领域的一个特点就是日新月异，在数据竞赛中，一件趁手的工具对比赛结果有重要影响。boosting是一种将弱分类器组合成强分类器的方法，它包含多种算法，如GDBT、AdaBoost、XGBoost等等。如果你参加过Kaggle之类的数据竞赛，你可能听说过XGBoost在数据江湖上的领导地位，也可能好奇过LGBM的快速崛起。但是，你听说过俄罗斯最大搜索引擎Yandex开发的CatBoost吗？ ...
决策树模型，XGBoost，LightGBM和CatBoost模型可视化
热门推荐
Sylvester
08-09 3万+
决策树模型，XGBoost和LightGBM模型可视化 安装 graphviz 参考文档 http://graphviz.readthedocs.io/en/stable/manual.html#installation graphviz安装包下载地址 https://www.graphviz.org/download/ 将graphviz的安装位置添加到系统环境变量 使用pip ins...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

茶桁

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值