【2024Datawhale】电力需求预测挑战赛笔记

#AI夏令营 #Datawhale #夏令营

Test1，跑通代码，并提交，获得第一个分数

以下是代码：

# 1. 导入需要用到的相关库

# 导入 pandas 库，用于数据处理和分析

# 将整个模块(somemodule)导入，格式为： import somemodule。

#本句的意思为将pandas库的名称暂时叫做pd，以便后续引用

import pandas as pd

# 导入 numpy 库，用于科学计算和多维数组操作，同上。

import numpy as np

# 2. 读取训练集和测试集

# 使用 read_csv() 函数从文件中读取训练集数据，文件名为 'train.csv'

train = pd.read_csv('train.csv')

# 使用 read_csv() 函数从文件中读取测试集数据，文件名为 'test.csv'

test = pd.read_csv('test.csv')

# 3. 计算训练数据最近11-20单位时间内对应id的目标均值

#选出dataframe——train中dt列中小于等于20的数据

#对id相同的数据进行分组

#对id相同的组内‘target’的值进行平均

#重置索引时，将旧索引添加为列，并使用新的顺序索引：

target_mean = train[train['dt']<=20].groupby(['id'])['target'].mean().reset_index()

# 4. 将target_mean作为测试集结果进行合并

#left：左侧作为被匹配对象，右侧的数据匹配左侧的数据，没有的则为空。未匹配到，则为空

test = test.merge(target_mean, on=['id'], how='left')

# 5. 保存结果文件到本地

#index=None即没有列引索

test[['id','dt','target']].to_csv('submit.csv', index=None)

此时需要学习pandas和numpy两个库。

Pandas 和 NumPy 是 Python 编程语言 中两个非常重要的库，它们封装了很多函数功能，广泛应用于数据分析和科学计算领域，为我们的代码开发实现提供了便利。

- Pandas 是基于 NumPy 的一个数据分析和操作库，提供了快速、灵活和表达力强的数据结构，旨在使数据清洗和分析工作变得更加简单易行。

- NumPy 提供了多维数组对象、派生对象（如掩码数组和矩阵）以及用于快速操作数组的各种例程，包括数学、逻辑、形状操作、排序、选择、I/O、离散傅立叶变换、基本线性代数、基本统计运算、随机模拟等等。

本次实践基本上了解了代码功能，为之后的改进奠定基础。

TEST2：入门lightgbm，开始特征工程

以下是代码：

import numpy as np

import pandas as pd

import lightgbm as lgb

from sklearn.metrics import mean_squared_log_error, mean_absolute_error, mean_squared_error

import tqdm

import sys

import os

import gc

import argparse

import warnings

warnings.filterwarnings('ignore')

#导入数据集

train = pd.read_csv('D:/test/train.csv')

test = pd.read_csv('D:/test/test.csv')

# 合并训练数据和测试数据，并进行排序

#axis=0 表拼接方式是上下堆叠

#重新制定引索

data = pd.concat([test, train], axis=0, ignore_index=True)

#ascending=False 表示降序排序

#重新制定引索

data = data.sort_values(['id', 'dt'], ascending=False).reset_index(drop=True)

# 历史平移

for i in range(10, 30):

    data[f'last{i}_target'] = data.groupby(['id'])['target'].shift(i)

# 窗口统计

data[f'win3_mean_target'] = (data['last10_target'] + data['last11_target'] + data['last12_target']) / 3

# 进行数据切分

train = data[data.target.notnull()].reset_index(drop=True)

test = data[data.target.isnull()].reset_index(drop=True)

# 确定输入特征

train_cols = [f for f in data.columns if f not in ['id', 'target']]

def time_model(lgb, train_df, test_df, cols, clf=None):

    # 训练集和验证集切分

    trn_x, trn_y = train_df[train_df.dt >= 31][cols], train_df[train_df.dt >= 31]['target']

    val_x, val_y = train_df[train_df.dt <= 30][cols], train_df[train_df.dt <= 30]['target']

    # 构建模型输入数据

    train_matrix = lgb.Dataset(trn_x, label=trn_y)

    valid_matrix = lgb.Dataset(val_x, label=val_y)

    # lightgbm参数

    lgb_params = {

        'boosting_type': 'gbdt',

        'objective': 'regression',

        'metric': 'mse',

        'min_child_weight': 5,

        'num_leaves': 2 ** 5,

        'lambda_l2': 10,

        'feature_fraction': 0.8,

        'bagging_fraction': 0.8,

        'bagging_freq': 4,

        'learning_rate': 0.05,

        'seed': 2024,

        'nthread': 16,

        'verbose': -1,

    }

    # 训练模型

    model = lgb.train(lgb_params, train_matrix, 50000, valid_sets=[train_matrix, valid_matrix],

                      categorical_feature=[], verbose_eval=500, early_stopping_rounds=500)

    # 验证集和测试集结果预测

    val_pred = model.predict(val_x, num_iteration=model.best_iteration)

    test_pred = model.predict(test_df[cols], num_iteration=model.best_iteration)

    # 离线分数评估

    score = mean_squared_error(val_pred, val_y)

    print(score)

    return val_pred, test_pred

lgb_oof, lgb_test = time_model(lgb, train, test, train_cols)

# 保存结果文件到本地

test['target'] = lgb_test

test[['id', 'dt', 'target']].to_csv('submit.csv', index=None)

其中lightgbm参数为重点内容：
'boosting_type': 'gbdt'：指定了提升算法的类型为梯度提升决策树（Gradient Boosting Decision Tree）。

'objective': 'regression'：指定了学习任务的目标函数为回归问题。

'metric': 'mse'：指定了评估模型性能的指标为均方误差（Mean Squared Error）。

'min_child_weight': 5：在叶子节点中进行进一步分割所需的最小样本权重和。

'num_leaves': 2 ** 5：指定了树中的叶子节点数。

'lambda_l2': 10：L2正则化项的权重。

'feature_fraction': 0.8：在每次迭代中随机选择80%的特征来训练模型。

'bagging_fraction': 0.8：在每次迭代中随机选择80%的样本来训练模型。

'bagging_freq': 4：指定了进行装袋的频率。

'learning_rate': 0.05：学习率，也称为步长或收缩率。

'seed': 2024：随机种子。

'nthread': 16：指定了用于训练模型的线程数。

'verbose': -1：控制训练过程中的输出信息。-1表示不输出任何信息（即静默模式）