k折交叉验证 base

最新推荐文章于 2024-07-25 22:48:17 发布

turbo624

最新推荐文章于 2024-07-25 22:48:17 发布

阅读量248

点赞数

分类专栏：机器学习

本文链接：https://blog.csdn.net/weixin_44110891/article/details/99492775

版权

k折交叉验证是一种评估模型性能的方法，通过将数据集分成k个子集，轮流作为测试集，其余作为训练集，最后计算平均误差。10折和5折交叉验证是常用的选择，能有效减少泛化误差。

摘要由CSDN通过智能技术生成

交叉验证

交叉验证在给定的建模样本中，拿出大部分样本进行建模型，留小部分样本用刚建立的模型进行预报，并求这小部分样本的预报误差，记录它们的平方加和。

k折交叉验证

K折交叉验证(k-fold cross-validation)首先将所有数据分割成K个子样本，不重复的选取其中一个子样本作为测试集，其他K-1个样本用来训练。共重复K次，平均K次的结果或者使用其它指标，最终得到一个单一估测。

这个方法的优势在于，保证每个子样本都参与训练且都被测试，降低泛化误差。其中，10折交叉验证是最常用的，5折交叉验证也用得较多。

code

import pandas as pd
import numpy as np
from sklearn.model_selection import StratifiedKFold
import warnings
import lightgbm as lgb
from sklearn.metrics import roc_auc_score
warnings.filterwarnings('ignore')

def get_data():
    train=pd.read_csv('./data/train.csv')
    test=pd.read_csv('./data/test.csv')
    data = pd.concat([train, test], axis=0, ignore_index=True)
    data = data.fillna(-1)
    return data

def split_train_test(data):
    train_data = data[data['purchase'