将保存在txt中的数据集划分为训练集测试集验证集

将保存在txt中的数据集划分为训练集测试集验证集,代码如下(该代码划分的比例是训练集:验证集:测试集=6:2:2):
import os
import random

l_train=[]
l_val=[]
l_test=[]

# 读取文件中的内容,并将其打乱写入列表FileNameList
def ReadFileDatas(original_filename):
    file=open(original_filename,'r+')
    FileNameList=file.readlines()
    random.shuffle(FileNameList)
    file.close()
    print("数据集总量:", len(FileNameList))
    return FileNameList
#将数据集随机划分
def TrainValTestFile(FileNameList):
    i=0
    j=len(FileNameList)
    for line in FileNameList:
        if i<(j*0.6):
            i+=1
            l_train.append(line)
        elif i<(j*0.8):
            i+=1
            l_val.append(line)
        else:
            i+=1
            l_test.append(line)
    print("总数量:%d,此时创建train,val,test数据集"%i)
    return l_train,l_val,l_test
#将获取到的各个数据集的包含的文件名写入txt中
def WriteDatasToFile(listInfo, new_filename):
    file_handle = open(new_filename,'w')
    for str_Result in listInfo:
        file_handle.write(str_Result)
    file_handle.close()
    print('写入 %s 文件成功.' % new_filename)
if __name__ == "__main__":
      listFileInfo = ReadFileDatas('F:/wangjiao/划分服务器训练的VIN数据集/all.txt') # 读取文件
      l_train,l_val,l_test=TrainValTestFile(listFileInfo)
      WriteDatasToFile(l_train, 'F:/wangjiao/划分服务器训练的VIN数据集/all_train.txt')
      WriteDatasToFile(l_val, 'F:/wangjiao/划分服务器训练的VIN数据集/all_val.txt')
      WriteDatasToFile(l_test, 'F:/wangjiao/划分服务器训练的VIN数据集/all_test.txt')

备注:

'F:/wangjiao/划分服务器训练的VIN数据集/all.txt'中保存着所有数据集,如下所示:

参考文章:

https://blog.csdn.net/qq_38473254/article/details/99417019

  • 5
    点赞
  • 40
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值