Datawhale AI夏令营 第二期 机器学习 Task2 入门lightgbm，开始特征工程

概要:

本次任务是从基础的baseline改良,从task1的经验模型取均值转变成机器学习模型,task2采用LightGBM用以实现GBDT算法

上期链接:task1链接http://t.csdnimg.cn/xpbBJ

一.什么是LightGBM?

首先介绍一下什么是LightGBM

1.定义:

LightGBM（Light Gradient Boosting Machine）是一个实现GBDT算法的框架，能够支持高效率的并行训练，并且具有更快的训练速度、更低的内存消耗、更好的准确率、支持分布式可以快速处理海量数据等优点。

2.包括模型:

LightGBM 框架中还包括随机森林和逻辑回归等模型。

3.应用:

通常应用于二分类、多分类和排序等场景。

4.例子:

例如：在个性化商品推荐场景中，通常需要做点击预估模型。使用用户过往的行为（点击、曝光未点击、购买等）作为训练数据，来预测用户点击或购买的概率。根据用户行为和用户属性提取一些特征，包括：

• 类别特征（Categorical Feature）：字符串类型，如性别（男/女）。

• 物品类型：服饰、玩具和电子等。

• 数值特征（Numrical Feature）：整型或浮点型，如用户活跃度或商品价格等。

了解更多请点击

 LightGBM 中文文档,Welcome to LightGBM’s documentation! — LightGBM 4.4.0.99 documentation

二.进阶代码详解与演示

（1）导入模块

import numpy as np
import pandas as pd
import lightgbm as lgb
from sklearn.metrics import mean_squared_log_error, mean_absolute_error, mean_squared_error
import tqdm
import sys
import os
import gc
import argparse
import warnings
warnings.filterwarnings('ignore')

需要安装具体的库,其中numpy和pandas在task1中已经教学如何安装

本次给以下安装指令

首先win+r打开运行栏,输入cmd+回车

在命令行中输入

pip install lightgbm
pip install warnings

如果后续运行代码出现

TypeError: train() got an unexpected keyword argument 'verbose_eval,这是由于lightgbm版本过新导致的,要下载旧版本

请在命令行中输入

pip uninstall lightgbm
pip install lightgbm==3.3.0

（2）探索性数据分析（EDA）

读取数据集中的训练数据和测试数据

train = pd.read_csv('./data/train.csv')
test = pd.read_csv('./data/test.csv')

样例如下: 

数据简单介绍：

• 其中id为房屋id，

• dt为日标识，训练数据dt最小为11，不同id对应序列长度不同；

• type为房屋类型，通常而言不同类型的房屋整体消耗存在比较大的差异；

• target为实际电力消耗，也是我们的本次比赛的预测目标。

 接下来我们需要一些可视化数据来帮助我们分析

• 不同type类型对应target的柱状图

import matplotlib.pyplot as plt
# 不同type类型对应target的柱状图
type_target_df = train.groupby('type')['target'].mean().reset_index()
plt.figure(figsize=(8, 4))
plt.bar(type_target_df['type'], type_target_df['target'], color=['blue', 'green'])
plt.xlabel('Type')
plt.ylabel('Average Target Value')
plt.title('Bar Chart of Target by Type')
plt.show()

• id为00037f39cf的按dt为序列关于target的折线图

specific_id_df = train[train['id'] == '00037f39cf']
plt.figure(figsize=(10, 5))
plt.plot(specific_id_df['dt'], specific_id_df['target'], marker='o', linestyle='-')
plt.xlabel('DateTime')
plt.ylabel('Target Value')
plt.title("Line Chart of Target for ID '00037f39cf'")
plt.show()

 （3）特征工程

在这里我们需要构建历史平移特征 和 窗口统计特征这两个特征

代码如下

本次baseline的窗口统计只是取了10,11,12的平均值作为特征,

还可以统计7天或者10天或30天一个季度的最大值,最小值,均值等

# 合并训练数据和测试数据，并进行排序
data = pd.concat([test, train], axis=0, ignore_index=True)
data = data.sort_values(['id','dt'], ascending=False).reset_index(drop=True)

# 历史平移
for i in range(10,30):
    data[f'last{i}_target'] = data.groupby(['id'])['target'].shift(i)
    
# 窗口统计
data[f'win3_mean_target'] = (data['last10_target'] + data['last11_target'] + data['last12_target']) / 3

# 进行数据切分
train = data[data.target.notnull()].reset_index(drop=True)
test = data[data.target.isnull()].reset_index(drop=True)

# 确定输入特征
train_cols = [f for f in data.columns if f not in ['id','target']]

 （4）模型训练与测试集预测

def time_model(lgb, train_df, test_df, cols):
    # 训练集和验证集切分
    trn_x, trn_y = train_df[train_df.dt>=31][cols], train_df[train_df.dt>=31]['target']
    val_x, val_y = train_df[train_df.dt<=30][cols], train_df[train_df.dt<=30]['target']
    # 构建模型输入数据
    train_matrix = lgb.Dataset(trn_x, label=trn_y)
    valid_matrix = lgb.Dataset(val_x, label=val_y)
    # lightgbm参数
    lgb_params = {
        'boosting_type': 'gbdt',
        'objective': 'regression',
        'metric': 'mse',
        'min_child_weight': 5,
        'num_leaves': 2 ** 5,
        'lambda_l2': 10,
        'feature_fraction': 0.8,
        'bagging_fraction': 0.8,
        'bagging_freq': 4,
        'learning_rate': 0.05,
        'seed': 2024,
        'nthread' : 16,
        'verbose' : -1,
    }
    # 训练模型
    model = lgb.train(lgb_params, train_matrix, 50000, valid_sets=[train_matrix, valid_matrix], 
                      categorical_feature=[], verbose_eval=500, early_stopping_rounds=500)
    # 验证集和测试集结果预测
    val_pred = model.predict(val_x, num_iteration=model.best_iteration)
    test_pred = model.predict(test_df[cols], num_iteration=model.best_iteration)
    # 离线分数评估
    score = mean_squared_error(val_pred, val_y)
    print(score)
       
    return val_pred, test_pred
    
lgb_oof, lgb_test = time_model(lgb, train, test, train_cols)

# 保存结果文件到本地
test['target'] = lgb_test
test[['id','dt','target']].to_csv('submit.csv', index=None)

 得分

 

三.改进方法

 1.窗口统计:

在窗口统计里,baseline只是对10,11,12三天取平均值作为特征,还可以统计7天,10天,15天,30天,90天的最大值,最小值以及平均值来作为特征

# 历史平移
for i in range(10, 100):  # 修改这里，确保有足够的历史平移列
    data[f'last{i}_target'] = data.groupby(['id'])['target'].shift(i)

# 窗口统计
window_periods = [3, 5, 7, 10, 30, 90]

for window in window_periods:
    target_cols = [f'last{i}_target' for i in range(10, 10+window)]
    data[f'win{window}_mean_target'] = data[target_cols].mean(axis=1)
    data[f'win{window}_max_target'] = data[target_cols].max(axis=1)
    data[f'win{window}_min_target'] = data[target_cols].min(axis=1)

2.参数调整:

lightgbm的参数可以调整,比如min_child_weight等,采用网格法来寻求最佳参数,

但实际调整起来区别都不太大,得从特征工程入手.