一种简单的使用pandas DataFrame划分训练集、测试集、验证集的方法

15 篇文章 1 订阅
14 篇文章 0 订阅

例如划分训练集、测试集、验证集比例为 6 : 2 : 2 6: 2: 2 622, 代码如下:

import pandas as pd

"""
    此脚本将数据集分为训练集和测试集和验证集
"""

if __name__ == "__main__":
    data = pd.read_csv("corpus-model-filtered.csv", header=None)  #加载数据
    data:pd.DataFrame = data.sample(frac=1.0)                     #将数据打乱
    rows, cols = data.shape
    split_index_1 = int(rows * 0.2)
    split_index_2 = int(rows * 0.4)
    #数据分割
    data_test:pd.DataFrame = data.iloc[0: split_index_1, :]
    data_validate:pd.DataFrame = data.iloc[split_index_1:split_index_2, :]
    data_train:pd.DataFrame = data.iloc[split_index_2: rows, :]
    #数据保存
    data_test.to_csv("corpus-model-filtered-test.csv", header=None, index=False)
    data_validate.to_csv("corpus-model-filtered-validate.csv", header=None, index=False)
    data_train.to_csv("corpus-model-filtered-train.csv", header=None, index=False)
    print("划分完毕")

希望对读者有帮助。

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值