机器学习——lightGBM

最新推荐文章于 2024-08-22 18:37:12 发布
最新推荐文章于 2024-08-22 18:37:12 发布
阅读量229 收藏
点赞数
分类专栏： 人工智能 文章标签： 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44350337/article/details/115445257
版权
LightGBM是微软开发的一种集成学习算法，它优化了xgboost，具备快速训练、低内存消耗、高准确性、支持并行和GPU加速、处理缺失值以及应对大规模数据的能力。主要参数包括num_iterations、subsample、learning_rate和boosting_type（如gbdt、dart、rf）。安装使用可以执行`conda install lightgbm`。
摘要由CSDN通过智能技术生成

lightGBM

  • 微软出品的集成学习算法
  • 优点：对xgboost进行了优化
    • 非常快的训练速度
    • 非常低的内存消耗
    • 非常高的准确率
    • 并发和支持GPU加速
    • 能直接处理缺失值
    • 能处理庞大体量的数据
  • 环境安装：conda install lightgbm
    在这里插入图片描述
  • fit其他参数

在这里插入图片描述

  • 重要属性

在这里插入图片描述

  • 最优的迭代次数时进行预测：num_iteration参数
    在这里插入图片描述
  • 重要模型参数

    • subsample

    • learning_rate

    • boosting_type：

      • ‘gbdt’, traditional Gradient Boosting Decision Tree.
      • ‘dart’, Dropouts meet Multiple Additive Regression Trees.
      • ‘rf’, Random Forest.

    • n_estimators
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述
      在这里插入图片描述

Dunkle.T
关注
专栏目录
机器学习算法 —— LightGBM
ZShiJ的博客
07-09 402
本次我们选择英雄联盟数据集进行LightGBM的场景体验。英雄联盟是2009年美国拳头游戏开发的MOBA竞技网游，在每局比赛中蓝队与红队在同一个地图进行作战，游戏的目标是破坏敌方队伍的防御塔，进而摧毁敌方的水晶枢纽，拿下比赛的胜利。现在共有9881场英雄联盟韩服钻石段位以上的排位比赛数据，数据提供了在十分钟时的游戏状态，包括击杀数、死亡数、金币数量、经验值、等级……参考项目：机器学习系列入门系列[七]：基于英雄联盟数据集的LightGBM的分类预测。
python机器学习案例系列教程——LightGBM算法
qq_45368327的博客
07-09 191
python机器学习案例系列教程——LightGBM算法
机器学习模型线上部署方法
qq_23182345的博客
10-08 1286
目前比较流行的4类机器学习模型上线的形式： 1、离线预测 + 不跨语言 这种形式最简单，就是用什么语言训练的就用什么语言预测，而且不用考虑高并发和响应时间等问题。 案例1：python训练 + airflow调度 使用python训练好模型，并用joblib.dumps()保存模型文件，然后我们在python文件中使用joblib.loa...
XGBoost的原理、工程实现与优缺点
kuxingseng123的博客
01-23 1475
慢慢的将各种决策树算法都给其研究透彻。 深入研究都行啦的回事与打算。
图解机器学习算法(11) | LightGBM模型详解（机器学习通关指南·完结）
ShowMeAI研究中心
03-10 2万+
LightGBM是GBDT的进化版本，在效率、内存、准确率方面表现优秀。本文讲解LightGBM的动机、优缺点及优化点、决策树算法及生长策略、类别性特征支持、并行支持与优化等重要知识点。
机器学习——LightGBM算法
weixin_39753819的博客
03-27 1718
LightGBM是一种基于梯度提升框架的机器学习算法，由微软团队开发。相比于传统的梯度提升决策树（GBDT）算法，LightGBM具有更高的训练效率和更低的内存消耗，尤其适用于大规模数据集。LightGBM的目标函数包括损失函数和正则项，通过梯度提升算法来优化目标函数，求得最优的模型参数。
机器学习——lightGBM（学习整理）
最新发布
CXDNW的博客
08-22 1476
LightGBM 是 微软的 一个团队 在 Github 上开发的一个 开源项目，高性能 的 LightGBM 算法具有分布式 和 可以 快速处理大量数据的 特点。LightGBM 虽然 基于 决策树和 XGBoost 而生，但它 还遵循 其他不同的 策略。XGBoost 使用决策树 对一个 变量进行 拆分，并在 该变量上 探索不同的 切割点（按级别划分的 树生长策略），而LightGBM 则 专注于 按叶子节点 进行拆分，以便 获得更好的 拟合（按叶划分的树生长策略）。
机器学习——LightGBM
Heitao5200的博客
01-02 4429
1. LightGBM概述 LightGBM（Light Gradient Boosting Machine）是一个基于决策树算法的快速的、分布式的、高性能 gradient boosting（GBDT、GBRT、GBM 或 MART）框架，可被用于排行、分类以及其他许多机器学习任务中。 2. LightGBM的起源 GBDT 虽然是个强力的模型，但却有着一个致命的缺陷，不能用类似 mini ba...
机器学习模型——LightGBM
行者无疆的博客
08-06 6094
  LightGBM（Light Gradient Boosting Machine）是一个实现GBDT算法的框架，支持高效率的并行训练，并且具有更快的训练速度、更低的内存消耗、更好的准确率、支持分布式可以快速处理海量数据等优点。   GBDT在每一次迭代的时候，都需要遍历整个训练数据多次。如果把整个训练数据装进内存则会限制训练数据的大小；如果不装进内存，反复地读写训练数据又会消耗非常大的时间。因此LightGBM提出的主要目的就是解决GBDT在海量数据时的问题，让GBDT可以更好更快地用于工业实践。 基本
机器学习模型——lightGBM
Pcl2001的博客
01-29 2697
lightGBM一、lightGBM的前世今生1.GBDT（Gradient Boosting Decision Tree）2.lightGBM（Light Gradient Boosting Machine）3.XGBoost3.1核心思想3.2优缺点二、lightGBM三、使用lightGBM解决信用卡欺诈问题 一、lightGBM的前世今生 1.GBDT（Gradient Boosting Decision Tree） 主要思想是利用弱分类器（决策树）迭代训练以得到最优模型，该模型具有训练效果好、不
集成学习（6）——LightGBM
weixin_43455338的博客
03-14 627
目录 一 LightGBM特点 二 Histogram算法 三 LightGBM的细节技术 1. Histogram optimization 2 内存消耗和计算上优化 3 带深度限制的Leaf-wise的叶子生长策略 4、直方图做差优化 5、 增加缓存命中率 6、支持类别特征 7、支持并行学习 7.1 特征并行 7.2 数据并行 7.3 投票并行 8、网络通信的优化 四、支持的应用和度量 1 应...
深度学习——ResNet18 / 34
热门推荐
Dunkle.T的博客
04-06 2万+
ResNet在2015年由微软实验室提出，斩获当年ImageNet竞赛中分类任务第一名，目标检测第一名。获得COCO数据集中目标检测第一名，图像分割第一名。 ResNet34层模型的结构简图： ResNet网络中的亮点： 超深的网络结构（突破1000层） 提出residual模块（残差结构） 使用Batch Normalization加速训练（丢弃dropout） 在ResNet网络提出之前，传统的卷积神经网络都是通过将一系列卷积层与下采样层进行堆叠得到的。但是当堆叠到一定网络深度时，就会出现两个问题
深度学习——DenseNet 121
Dunkle.T的博客
04-06 1万+
简介： DenseNet（Dense Convolutional Network）稠密卷积网络 CVPR2017的优秀文章 从feature入手，通过对feature的极致利用达到更好的效果和更少的参数。 优点： 减轻了vanishing-gradient（梯度消失） 加强了feature的传递 更有效地利用了feature 一定程度上较少了参数数量 ...
深度学习——卷积神经网络
Dunkle.T的博客
04-13 5396
卷积神经网络CNN由纽约大学的Yann Lecun于1998年提出，其本质是一个多层感知机，成功的原因在于其所采用的局部连接和权值共享的方式： 一方面减少了权值的数量使得网络易于优化 另一方面降低了模型的复杂度，也就是减小了过拟合的风险 该优点在网络的输入是图像时表现的更为明显，使得图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建的过程，在二维图像的处理过程中有很大的优势。 如网络能够自行抽取图像的特征包括颜色、纹理、形状及图像的拓扑结构。在处理二维图像上，特别是识别位移、缩放
机器学习D10——WOE和IV编码
Dunkle.T的博客
04-02 3666
概述 WOE和IV通常是用在模型特征筛选的。IV和WOE能够帮助我们衡量什么变量应该进入模型，什么变量应该舍弃。用IV和WOE的值来进行判断，值越大就表示该特征的预测能力越强，则该特征应该加入到模型的训练中。 应用 1、变量筛选。我们需要选择重要的变量加入模型，预测强度就可以作为我们判断变量是否重要的一个依据。 2、指导变量离散化。在建模过程中，时常需要对连续变量进行离散化处理，如年龄分段。但变量的不同离散化结果（如：年龄分为［0-20］还是［0-15］）会对模型产生不同的影响。因此，可以根据指标反应的预
机器学习D14——随机森林
Dunkle.T的博客
04-04 2338
随机森林：是bagging装袋法的代表。弱学习器只可以是决策树 简介： 随机森林是一种有监督学习算法，是以决策树为基学习器的集成学习算法。随机森林非常简单，易于实现，计算开销也很小，在分类和回归上表现出非常惊人的性能，因此，随机森林被誉为“代表集成学习技术水平的方法”。 随机森林的随机性体现在两个芳年 1.数据集的随机选择 从原始数据集中采取《有放回的抽样bagging》，构造子数据集，子数据集的数据量是和原始数据集相同的。不同子数据集的元素可以重复，同一个子数据集中的元素也可以重复。
机器学习D9——逻辑回归分类
Dunkle.T的博客
04-01 2058
逻辑回归 之前我们已经接触过相关的回归模型了，我们知道回归模型是用来处理和预测连续型数据的算法。然而逻辑回归是一种命名为“回归”的线性分类器，其本质是由线性回归变化而来的，一种广泛使用余分裂问题中的广义回归算法。 首先连续型的标签值可以使用线性回归得出，从而完成各种预测连续型变量的任务（比如预测产品销量，预测股价等）。 回归模型也可以实现分类效果 使用sigmod函数将线性回归的值转换到（0，1）之间，这个值就是分到设定类的概率。 Sigmod函数 我们可以通过引入sigmod函数，将线性方程z变换
机器学习——数据探索大致流程
Dunkle.T的博客
04-05 1479
什么是EDA 在拿到数据后，首先要进行的是数据探索性分析（Exploratory Data Analysis），它可以有效的帮助我们熟悉数据集、了解数据集。初步分析变量间的相互关系以及变量与预测值之间的关系，并且对数据进行初步处理，如：数据的异常和缺失处理等，以便使数据集的结构和特征让接下来的预测问题更加可靠。 并且对数据的探索分析还可以： 1.获得有关数据清理的宝贵灵感（缺失值处理，特征降维…） 2.获得特征工程的启发 3.获得对数据集的感性认识 意义：数据决定了问题能够被解决的最大上限，而模型只决定
机器学习D12——决策树
Dunkle.T的博客
04-03 1362
认识决策树 决策树(Decision Tree)是一种有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策（基于分类或者回归）规则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。 决策树算法容易理解，适用各种数据，在解决各种问题时都有良好表现，尤其是以树模型为核心的各种集成算法，在各个行业领域都有广泛的应用。 决策树是如何工作的。决策树算法的本质是一种树结构【不是二叉树】，我们只需要问一系列的问题就可以对数据进行分类了。 我们现在的目标是，将动物们分为哺乳类和非哺乳类。那根
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Dunkle.T

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值