Datawhale AI夏令营第二期机器学习Task2学习笔记

学习目的：入门lightgbm机器学习，开始特征工程

具体赛事链接：https://challenge.xfyun.cn/h5/detail?type=electricity-demand&ch=dw24_uGS8Gs

理解模型通用流程

本次解决的问题为回归预测问题，常规思路为使用机器学习模型，如LightGBM，XGBoost等。机器学习模型使用简单，数据不需要过多预处理。

一般的使用机器学习模型解决问题的主要步骤为导入模块、数据探索、数据清洗（数据预处理）、提取特征、切分训练集与验证集、训练模型、预测结果。

基础概念理解

GBDT

即梯度提升决策树（Gradient Boosting Decision Tree），是一种集成学习算法，它通过构建多个决策树来最小化损失函数，从而提高模型的预测准确性。GBDT 算法的核心思想是迭代地训练决策树，每一棵树都尝试纠正前一棵树的残差，以此来逐步提升模型的性能。

GBDT的主要特点:

• 顺序学习: 每次添加一棵树，每个新树都会从以前的树中学习错误。
• 梯度下降: 它使用梯度下降优化来最小化添加新模型时的损失。
• 树形建筑: 每棵树的构建都是为了预测序列中前一棵树的残差或误差。
• 正则化: 像收缩 (学习率) 和树深度约束这样的技术被用来控制过度拟合。

LightGBM

LightGBM（Light Gradient Boosting Machine）是由微软开发的高效梯度提升框架。

主要特点如下：

• 高效性和快速训练：利用直方图算法和leaf-wise生长策略，加速模型训练过程。

• 低内存消耗：采用稀疏优化和直方图算法，有效减少内存占用，适合处理大规模数据。

• 并行化和GPU加速：支持多线程并行化和GPU加速，提高训练和预测速度。

• 处理类别特征的优化：直接支持类别特征的处理，避免了独热编码带来的维度爆炸和计算成本。

• 高准确率：在处理大规模数据集时能保持较高的预测准确率。

• 可扩展性强：支持分布式训练，能够处理大规模数据和高维特征。

进阶代码

导入模块

import numpy as np
import pandas as pd
import lightgbm as lgb
from sklearn.metrics import mean_squared_log_error, mean_absolute_error, mean_squared_error
import tqdm
import sys
import os
import gc
import argparse
import warnings
warnings.filterwarnings('ignore')

numpy: 一个用于科学计算的库。

pandas: 提供了高性能、易用的数据结构和数据分析工具，擅长处理表格数据（CSV文件等)。

lightgbm: 一个梯度提升框架，使用基于树的学习算法，它使用基于树的模型来解决各种机器学习任务，如分类、回归等。

sklearn.metrics: 这是scikit-learn库的一部分，提供了许多评估机器学习模型性能的指标。

tqdm: 一个快速、可扩展的Python进度条库。

sys: 一个Python模块，提供了与Python解释器和它的环境有关的功能。

os: 一个Python模块，提供了一种方便的方式来使用操作系统依赖的功能。

gc: 一个Python模块，提供了垃圾收集功能，可以用来强制立即运行垃圾回收。

 argparse: 一个Python模块，用于编写用户友好的命令行接口。

这里使用 warnings.filterwarnings('ignore') 来忽略所有的警告信息。

数据分析

读取训练数据和测试数据

train = pd.read_csv('./data/train.csv')
test = pd.read_csv('./data/test.csv')

数据简单介绍：

• 其中id为房屋id，

• dt为日标识，训练数据dt最小为11，不同id对应序列长度不同；

• type为房屋类型，通常而言不同类型的房屋整体消耗存在比较大的差异；

• target为实际电力消耗，也是我们的本次比赛的预测目标。

可视化数据分析：

import matplotlib.pyplot as plt
# 不同type类型对应target的柱状图
type_target_df = train.groupby('type')['target'].mean().reset_index()
plt.figure(figsize=(8, 4))
plt.bar(type_target_df['type'], type_target_df['target'], color=['blue', 'green'])
plt.xlabel('Type')
plt.ylabel('Average Target Value')
plt.title('Bar Chart of Target by Type')
plt.show()

#id为00037f39cf的按dt为序列关于target的折线图
specific_id_df = train[train['id'] == '00037f39cf']
plt.figure(figsize=(10, 5))
plt.plot(specific_id_df['dt'], specific_id_df['target'], marker='o', linestyle='-')
plt.xlabel('DateTime')
plt.ylabel('Target Value')
plt.title("Line Chart of Target for ID '00037f39cf'")
plt.show()

特征工程

历史平移特征：通过历史平移获取上个阶段的信息，如下图所示，可以将d-1时间的信息给到d时间，d时间信息给到d+1时间，这样就实现了平移一个单位的特征构建。

窗口统计特征：窗口统计可以构建不同的窗口大小，然后基于窗口范围进统计均值、最大值、最小值、中位数、方差的信息，可以反映最近阶段数据的变化情况。如下图所示，可以将d时刻之前的三个时间单位的信息进行统计构建特征给我d时刻。

# 合并训练数据和测试数据，并进行排序
data = pd.concat([test, train], axis=0, ignore_index=True)
data = data.sort_values(['id','dt'], ascending=False).reset_index(drop=True)

# 历史平移
for i in range(10,30):
    data[f'last{i}_target'] = data.groupby(['id'])['target'].shift(i)
    
# 窗口统计
data[f'win3_mean_target'] = (data['last10_target'] + data['last11_target'] + data['last12_target']) / 3

# 进行数据切分
train = data[data.target.notnull()].reset_index(drop=True)
test = data[data.target.isnull()].reset_index(drop=True)

# 确定输入特征
train_cols = [f for f in data.columns if f not in ['id','target']]

 模型训练和预测结果

这里选择使用Lightgbm模型，也是通常作为数据挖掘比赛的基线模型，在不需要过程调参的情况的也能得到比较稳定的分数。

因为数据存在时序关系，所以需要严格按照时序进行切分，

• 这里选择原始给出训练数据集中dt为30之后的数据作为训练数据，之前的数据作为验证数据，

• 这样保证了数据不存在穿越问题（不使用未来数据预测历史数据）。

def time_model(lgb, train_df, test_df, cols):
    # 训练集和验证集切分
    trn_x, trn_y = train_df[train_df.dt >= 31][cols], train_df[train_df.dt >= 31]['target']
    val_x, val_y = train_df[train_df.dt <= 30][cols], train_df[train_df.dt <= 30]['target']
    # 构建模型输入数据
    train_matrix = lgb.Dataset(trn_x, label=trn_y)
    valid_matrix = lgb.Dataset(val_x, label=val_y)
    # lightgbm参数
    lgb_params = {
        'boosting_type': 'gbdt',
        'objective': 'regression',
        'metric': 'mse',
        'min_child_weight': 5,
        'num_leaves': 2 ** 5,
        'lambda_l2': 10,
        'feature_fraction': 0.8,
        'bagging_fraction': 0.8,
        'bagging_freq': 4,
        'learning_rate': 0.05,
        'seed': 2024,
        'nthread': 16,
        'verbose': -1,
    }
    callback=[lgb.early_stopping(stopping_rounds=500, verbose=500)]
    # 训练模型
    model = lgb.train(lgb_params, train_matrix, 50000, valid_sets=[train_matrix, valid_matrix],
                      categorical_feature=[],callbacks = callback)
    # 验证集和测试集结果预测
    val_pred = model.predict(val_x, num_iteration=model.best_iteration)
    test_pred = model.predict(test_df[cols], num_iteration=model.best_iteration)
    # 离线分数评估
    score = mean_squared_error(val_pred, val_y)
    print(score)

    return val_pred, test_pred


lgb_oof, lgb_test = time_model(lgb, train, test, train_cols)

# 保存结果文件到本地
test['target'] = lgb_test
test[['id', 'dt', 'target']].to_csv('submit.csv', index=None)

运行结果 

完整可运行代码 

import numpy as np
import pandas as pd
import lightgbm as lgb
import matplotlib.pyplot as plt
from sklearn.metrics import mean_squared_log_error, mean_absolute_error, mean_squared_error
import tqdm
import sys
import os
import gc
import argparse
import warnings
warnings.filterwarnings('ignore')

train = pd.read_csv('./data/train.csv')
test = pd.read_csv('./data/test.csv')


# 合并训练数据和测试数据，并进行排序
data = pd.concat([test, train], axis=0, ignore_index=True)
data = data.sort_values(['id', 'dt'], ascending=False).reset_index(drop=True)

# 历史平移
for i in range(10, 30):
    data[f'last{i}_target'] = data.groupby(['id'])['target'].shift(i)

# 窗口统计
data[f'win3_mean_target'] = (data['last10_target'] + data['last11_target'] + data['last12_target']) / 3

# 进行数据切分
train = data[data.target.notnull()].reset_index(drop=True)
test = data[data.target.isnull()].reset_index(drop=True)

# 确定输入特征
train_cols = [f for f in data.columns if f not in ['id', 'target']]


def time_model(lgb, train_df, test_df, cols):
    # 训练集和验证集切分
    trn_x, trn_y = train_df[train_df.dt >= 31][cols], train_df[train_df.dt >= 31]['target']
    val_x, val_y = train_df[train_df.dt <= 30][cols], train_df[train_df.dt <= 30]['target']
    # 构建模型输入数据
    train_matrix = lgb.Dataset(trn_x, label=trn_y)
    valid_matrix = lgb.Dataset(val_x, label=val_y)
    # lightgbm参数
    lgb_params = {
        'boosting_type': 'gbdt',
        'objective': 'regression',
        'metric': 'mse',
        'min_child_weight': 5,
        'num_leaves': 2 ** 5,
        'lambda_l2': 10,
        'feature_fraction': 0.8,
        'bagging_fraction': 0.8,
        'bagging_freq': 4,
        'learning_rate': 0.05,
        'seed': 2024,
        'nthread': 16,
        'verbose': -1,
    }
    callback=[lgb.early_stopping(stopping_rounds=500, verbose=500)]
    # 训练模型
    model = lgb.train(lgb_params, train_matrix, 50000, valid_sets=[train_matrix, valid_matrix],
                      categorical_feature=[],callbacks = callback)
    # 验证集和测试集结果预测
    val_pred = model.predict(val_x, num_iteration=model.best_iteration)
    test_pred = model.predict(test_df[cols], num_iteration=model.best_iteration)
    # 离线分数评估
    score = mean_squared_error(val_pred, val_y)
    print(score)

    return val_pred, test_pred


lgb_oof, lgb_test = time_model(lgb, train, test, train_cols)

# 保存结果文件到本地
test['target'] = lgb_test
test[['id', 'dt', 'target']].to_csv('submit.csv', index=None)