训练营笔记——机器学习算法（三）：基于LightGBM的分类预测

最新推荐文章于 2024-07-09 09:12:18 发布

weixin_50950359

最新推荐文章于 2024-07-09 09:12:18 发布

阅读量1k

点赞数

本文链接：https://blog.csdn.net/weixin_50950359/article/details/114983382

版权

本文介绍了LightGBM，一种基于GBDT的分布式梯度提升框架，具有易用、高效和鲁棒性强的优点。通过英雄联盟数据集的实战，展示了如何进行数据处理、特征选择和模型训练，并详细讲解了LightGBM的重要参数调整，包括num_leaves、learning_rate、feature_fraction和max_depth等，以及针对训练速度、准确率和过拟合的参数优化策略。

摘要由CSDN通过智能技术生成

#LightGBM 介绍
基于GBDT（梯度提升决策树）算法的分布式梯度提升框架
优点：

简单易用。提供了主流的Python\C++\R语言接口，用户可以轻松使
LightGBM建模并获得相当不错的效果。
高效可扩展。在处理大规模数据集时高效迅速、高准确度，对内存等硬件资源要求不高。
鲁棒性强。相较于深度学习模型不需要精细调参便能取得近似的效果
LightGBM直接支持缺失值与类别特征，无需对数据额外进行特殊处理
缺点：
相对于深度学习模型无法对时空位置建模，不能很好地捕获图像、语音、文本等高维数据。
在拥有海量训练数据，并能找到合适的深度学习模型时，深度学习的精度可以遥遥领先LightGBM

#基于英雄联盟数据集的LightGBM分类实战

#下载需要用到的数据集
!wget https://tianchi-media.oss-cn-beijing.aliyuncs.com/DSW/8LightGBM/high_diamond_ranked_10min.csv

step 1：函数库导入

##  基础函数库
import numpy as np 
import pandas as pd

## 绘图函数库
import matplotlib.pyplot as plt
import seaborn as sns

step 2：数据读取/载入

## 我们利用Pandas自带的read_csv函数读取并转化为DataFrame格式

df = pd.read_csv('./high_diamond_ranked_10min.csv')
y = df.blueWins

step 3：数据信息简单查看

## 利用.info()查看数据的整体信息
df.info()

## 进行简单的数据查看，我们可以利用 .head() 头部.tail()尾部
df.head()

## 标注标签并利用value_counts函数查看训练集标签的数量
y = df.blueWins
y.value_counts()

## 标注特征列
drop_cols = ['gameId','blueWins']
x = df.drop(drop_cols, axis=1)

## 对于特征进行一些统计描述
x.describe()

step 4：可视化描述

data = x
data_std = (data - data.mean()) / data.std()
data = pd.concat([y, data_std.iloc[:, 0:9]], axis=1)
data = pd.melt(data, id_vars='blueWins', var_name='Features', value_name='Values')

fig, ax = plt.subplots(1,2,figsize=(15,5))

# 绘制小提琴图
sns.violinplot(x='Features', y=