LGB + K-fold Cross Validation 用法小记

最新推荐文章于 2025-02-19 16:56:19 发布

miangangzhen

最新推荐文章于 2025-02-19 16:56:19 发布

阅读量5.1k

点赞数 3

文章标签： LGB k-fold

本文链接：https://blog.csdn.net/miangangzhen/article/details/87084262

版权

这篇博客主要记录了在实际应用中如何结合LightGBM（LGB）库与K折交叉验证（K-fold Cross Validation）进行有效的模型训练和验证，旨在提供一种代码实现的参考。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

看到好的代码，就记录下来，方便以后使用

# 引入相关包
import pandas as pd
import lightgbm as lgb
from sklearn.model_selection import StratifiedKFold

# 假设这里准备好了训练数据train_data，它是一个pandas的dataframe，包括特征列和score列
train_label = train_data['score']

# 初始化一个k-fold生成器
NFOLDS = 5
kfold = StratifiedKFold(n_splits=NFOLDS, shuffle=True, random_state=2019)
kf = kfold.split(train_data, train_label)
cv_pred = np.zeros(test_data.shape[0])
valid_best_l2_all = 0
feature_importance_df = pd.DataFrame()

# 执行训练
for i, (train_fold