【学习笔记】机器学习算法（三）基于LightGBM的分类预测

最新推荐文章于 2024-07-18 15:30:34 发布
最新推荐文章于 2024-07-18 15:30:34 发布
阅读量4.7k 收藏 42
点赞数 5
文章标签： python 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HLLOVELZ/article/details/116200451
版权
本文介绍了LightGBM的基本概念、优点和缺点，并通过英雄联盟游戏数据集进行分类实践，包括数据预处理、模型训练、特征选择和参数调优，展示了LightGBM在实际问题中的应用。
摘要由CSDN通过智能技术生成

这里写自定义目录标题

一、LightGBM简介

LightGBM的设计思路主要集中在减小数据对内存与计算性能的使用，以及减少多机器并行计算时的通讯代价。
LightGBM可以看作是XGBoost的升级豪华版，在获得与XGBoost近似精度的同时，又提供了更快的训练速度与更少的内存消耗。

优缺点

LightGBM的主要优点：

  • 简单易用。提供了主流的Python\C++\R语言接口，用户可以轻松使用LightGBM建模并获得相当不错的效果。
  • 高效可扩展。在处理大规模数据集时高效迅速、高准确度，对内存等硬件资源要求不高。
  • 鲁棒性强。相较于深度学习模型不需要精细调参便能取得近似的效果。
  • LightGBM直接支持缺失值与类别特征，无需对数据额外进行特殊处理

LightGBM的主要缺点：

  • 相对于深度学习模型无法对时空位置建模，不能很好地捕获图像、语音、文本等高维数据。
  • 在拥有海量训练数据，并能找到合适的深度学习模型时，深度学习的精度可以遥遥领先LightGBM。

二、学习目标

  • 了解 LightGBM 的参数与相关知识
  • 掌握 LightGBM 的Python调用并将其运用到英雄联盟游戏胜负预测数据集上

三、实例：基于英雄联盟数据集的LightGBM分类实践

直接输入1次#，并按下space后，将生成1级标题。
输入2次#，并按下space后，将生成2级标题。
以此类推，我们支持6级标题。有助于使用TOC语法后生成一个完美的目录。

3.1 代码流程

Step1: 库函数导入
Step2: 数据读取/载入
Step3: 数据信息简单查看
Step4: 可视化描述
Step5: 利用 LightGBM 进行训练与预测
Step6: 利用 LightGBM 进行特征选择
Step7: 通过调整参数获得更好的效果

3.2 数据集

这里的数据集直接从天池下载
在这里插入图片描述
数据集简介：
现在共有9881场英雄联盟韩服钻石段位以上的排位比赛数据，数据提供了在十分钟时的游戏状态，包括击杀数、死亡数、金币数量、经验值、等级……等信息。列blueWins是数据的标签，代表了本场比赛是否为蓝队获胜。

在这里插入图片描述
利用.head和.tail对数据进行查看
在这里插入图片描述
利用.describe()查看统计描述
在这里插入图片描述
对这些信息进行分析，不难发现

  • 我们发现不同对局中插眼数和拆眼数的取值范围存在明显差距，甚至有前十分钟插了250个眼的异常值。
  • 我们发现EliteMonsters的取值相当于Deagons + Heralds。
  • 我们发现TotalGold 等变量在大部分对局中差距不大。
  • 我们发现两支队伍的经济差和经验差是相反数。
  • 我们发现红队和蓝队拿到首次击杀的概率大概都是50%

根据上面的描述，我们可以去除一些重复变量，比如只要知道蓝队是否拿到一血，我们就知道红队有没有拿到，可以去除红队的相关冗余数据。

## 根据上面的描述，我们可以去除一些重复变量，比如只要知道蓝队是否拿到一血，我们就知道红队有没有拿到，可以去除红队的相关冗余数据。
drop_cols = [&#
最低0.47元/天 解锁文章
HLLOVELZ
关注
基于LightGBM分类实现英雄联盟数据预测(一）
weixin_38029956的博客
03-12 1528
基于LightGBM分类实现英雄联盟数据预测(一） 文章目录基于LightGBM分类实现英雄联盟数据预测(一）一、LightGBM的介绍二、操作步骤Step1:库函数导入Step2 .读入数据Step3：数据信息简单查看Step4:可视化描述 一、LightGBM的介绍 LightGBM是2017年由微软推出的可扩展机器学习系统，是微软旗下DMKT的一个开源项目，由2014年首届阿里巴巴大数据竞赛获胜者之一柯国霖老师带领开发。它是一款基于GBDT（梯度提升决策树）算法的分布式梯度提升框架，为了满足缩短模
机器学习：基于LightGBM的分类实践
Morganfs的博客
05-01 1933
学习时间：2022.04.30~2022.05.1 文章目录机器学习：基于LightGBM的分类实践1. LightGBM简介2. LightGBM实践2.1 数据处理2.2 参数设置2.3 验证集评估 机器学习：基于LightGBM的分类实践 尝试了一下招行的FinTech比赛，然后说是用LightGBM（lgb）的效果很好，所以临时来突击学习一下。 1. LightGBM简介 LightGBM是轻量级（Light）的梯度提升机器（GBM）,是GBDT模型的另一个进化版本。它延续了XGBoost的那一.
基于python实现的6种机器学习常用算法介绍以及优缺点分析【附代码】
最新发布
Henry的博客
07-18 2654
本文将会使用python语言将机器学习中常用的6种算法进行复现，代码会贴在每章后面接下来将探讨这些算法的背景、原理、优缺点及应用场景。
【机器学习】LightGBM 解读 （集成学习_Boosting_GBM）
Danger的博客
05-14 1842
【机器学习】LightGBM 解读 （集成学习_Boosting_GBM）
lightGBM分类模型
A496608119的博客
04-20 1224
import lightgbm as lgb import numpy as np from sklearn.model_selection import StratifiedKFold from sklearn.metrics import roc_auc_score, accuracy_score, f1_score, precision_score, recall_score import warnings warnings.filterwarnings('ignore') X_train, X
【项目实战】Python实现LightGBM分类模型(LGBMClassifier算法)项目实战
热门推荐
胖哥真不错的博客
11-06 3万+
说明：这是一个机器学习实战项目（附带数据+代码+文档+代码讲解），如需数据+代码+文档+代码讲解可以直接到文章最后获取。 1.项目背景 如今已是大数据时代，具备大数据思想至关重要，人工智能技术在各行各业的应用已是随处可见。GBDT (Gradient Boosting Decision Tree) 是机器学习中一个长盛不衰的模型，其主要思想是利用弱分类器（决策树）迭代训练以得到最优模型，该模型具有训练效果好、不易过拟合等优点。GBDT不仅在工业界应用广泛，通常被用于多分类、点击率预...
LightGBM 二元分类、多类分类、 Python的回归和分类器应用
fulk6667g78o8的专栏
12-12 7726
在公众号「python风控模型」里回复关键字：学习资料LightGBM是一个梯度提升框架，它使用基于树的学习算法。与其他提升算法相比，它被设计为分布式且高效。可以用于比较的模型是 XGBoost，它也是一种提升方法，与其他算法相比，它的表现非常出色。然而XGBoost是数据集的好算法升超过10000行ESS，对于大型数据集，所以不推荐。而LightGBM可以处理大量数据， 占用内存少，具有并行和GPU 学习，准确率好，训练速度和效率更快。那么是什么让 LightGBM 成为一个更好的模型
LightGBM分类实战
拟禾的个人技术博客
03-03 2533
使用集成模型LightGBM解决简单的分类任务
机器学习-LightGBM算法分类器-附python代码
gao_的博客
10-14 3167
LightGBM与XGBoost 算法类似，其基本思想都是对所有特征都按照特征的数值进行排序，找到一个特征上的最好分割点，将数据分裂成左右子节点。两种算法都有很多的优点，比如更快的训练效率、更高的准确率、支持并行化学习、大规模数据的处理等，但XGBOOST也有一些明显的缺点，如在选择树的分隔节点时，需要遍历所有的特征值，计算量大，内存占用量也大，还有易产生过拟合等。类似随机森林，它将在不进行重采样的情况下随机选择部分数据，可以用来加速训练，也可以用来处理过拟合。树的最大深度限制，防止过拟合。
训练营笔记——机器学习算法（三）：基于LightGBM的分类预测
weixin_50950359的博客
03-18 1082
#LightGBM 介绍 基于GBDT（梯度提升决策树）算法的分布式梯度提升框架 优点： 简单易用。提供了主流的Python\C++\R语言接口，用户可以轻松使 LightGBM建模并获得相当不错的效果。 高效可扩展。在处理大规模数据集时高效迅速、高准确度，对内存等硬件资源要求不高。 鲁棒性强。相较于深度学习模型不需要精细调参便能取得近似的效果 LightGBM直接支持缺失值与类别特征，无需对数据额外进行特殊处理 缺点： 相对于深度学习模型无法对时空位置建模，不能很好地捕获图像、语音、文本等高维数据。 在
机器学习（三）：基于LightGBM的分类预测
weixin_47337408的博客
11-03 739
本学习笔记为阿里云天池龙珠计划机器学习训练营的学习内容，学习链接为：AI训练营机器学习-阿里云天池 LightGBM介绍 LightGBM是2017年由微软推出的可扩展机器学习系统，是微软旗下DMKT的一个开源项目，由2014年首届阿里巴巴大数据竞赛获胜者之一柯国霖老师带领开发。它是一款基于GBDT（梯度提升决策树）算法的分布式梯度提升框架，为了满足缩短模型计算时间的需求，LightGBM的设计思路主要集中在减小数据对内存与计算性能的使用，以及减少多机器并行计算时的通讯代价。 LightGBM可以看作是
白话机器学习算法理论+实战番外篇之LightGBM
Miracle8070
04-10 1万+
1. 写在前面 如果想从事数据挖掘或者机器学习的工作，掌握常用的机器学习算法是非常有必要的，在这简单的先捋一捋， 常见的机器学习算法： 监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等 无监督算法：聚类，降维，关联规则, PageRank等 我前面已经尝试用最白话的语言完成了一个白话机器学习算法理论+实战系列，这个系列已经基本包含了上面这些算...
天池龙珠训练营-机器学习学习笔记-03 LightGBM 分类
qinqinwawa的博客
06-03 327
天池龙珠训练营-机器学习学习笔记-03 LightGBM 分类 本学习笔记为阿里云天池龙珠计划机器学习训练营的学习内容，学习链接为：训练营 一 原理简介： 它是一款基于GBDT（梯度提升决策树）算法的分布式梯度提升框架，为了满足缩短模型计算时间的需求，LightGBM的设计思路主要集中在减小数据对内存与计算性能的使用，以及减少多机器并行计算时的通讯代价。 LightGBM可以看作是XGBoost的升级豪华版，在获得与XGBoost近似精度的同时，又提供了更快的训练速度与更少的内存消耗。 LightGBM的主
机器学习分类算法(九)-LightGBM
猫敷雪
08-04 2307
之前在讲xgboost的时候，详细介绍了陈天奇等人于2014年发布的XGBoost的内在原理，同时阐述了其特有的几大优点。然而时代变化之迅速，新技术如春笋般应运而生，与日俱进。继xgboost之后，2016年微软进一步发布了GBST的另一个实现：lightgbm。据悉，与xgboost相比，在相同的运行时间下能够得到更好的预测性能。同时，在multi-class、classification、click prediction和排序(lerning to rank)都有很好的效果。本文将基于lightgbm的
深入解析LightGBM在二分类问题中的应用与调优
c52173的博客
06-18 787
它使用基于树的学习算法，并支持多种不同的目标函数，包括二分类、多分类、排序等。无论是金融领域的信用评分，医疗领域的疾病诊断，还是电商平台的用户行为预测，分类模型都发挥着至关重要的作用。在众多分类算法中，LightGBM以其高效、准确、易于使用的特性，成为了数据科学家和机器学习工程师的宠儿。在二分类问题中，模型的输出只有两种可能的结果，例如是或否、正类或负类等。虽然LightGBM已经是一个性能非常优秀的算法，但在实际应用中，我们仍然需要根据具体的数据和任务进行调优，以获得更好的性能。
lightGBM的介绍
Despicable_Me的博客
06-10 4283
AdaBoost（Adaptive Boosting）是一种集成学习算法，通过组合多个弱分类器来构建一个强分类器。它是由Freund和Schapire在1996年提出的，是集成学习中最早被广泛应用的算法之一。如何改变训练数据的权重或概率分布提高前一轮被弱分类器错误分类的样本的权重，降低前一轮被分对的权重。如何将弱分类器组合成一个强分类器，亦即，每个分类器，前面的权重如何设置采取“多数表决”的方法。
基于LightGBM的分类预测
happiless的博客
04-16 2210
一、学习知识点概要 1.1 LightGBM的介绍 1). 2017年经微软推出，XGBoost的升级版 2). 模型精度: 两个模型精度相当 3). 训练速度: LightGBM训练的速度更快 => 1/10 4). 内存消耗: LightGBM占用内存更小 => 1/6 5). 特征缺失值: 两个模型都可以自动处理特征缺失值 6). 分类特征: XGBoost不支持类别特征，需要对其进行onehot编码，而LightGBM支持类别特征 LightGBM的主要优点： 1.简单易用。提
lightGBM 分类实战
fang156239305的博客
08-18 459
import pandas as pd import numpy as np import os import warnings from sklearn.metrics import f1_score,accuracy_score from sklearn.model_selection import StratifiedKFold, KFold from tqdm import tqdm import lightgbm from sklearn.feature_extraction.text impor
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值