Python 处理数据集,合并多个文件/随机划分为train/valid/test

本文介绍了如何使用Python处理数据集,包括利用os.listdir()和os.walk()遍历并合并多个文件夹的内容,以及如何通过打乱数据集顺序来随机划分为训练集(train)、验证集(valid)和测试集(test)。
摘要由CSDN通过智能技术生成

对某个数据集进行处理,使之符合我的需要。

import os
import shutil
import random
# from xxx_dataset randomly choose images 
# to make a new data
# 60% train 
# 20% valid
# 20% test
path = '/remote-home/my/Database/xxx_dataset/all/images'
train = '/remote-home/my/Database/xxx_new/train'
valid = '/remote-home/my/Database/xxx_new/valid'
test = '/remote-home/my/Database/xxx_new/test'
dirpath = '/remote-home/my/Database/xxx_new/all'
filenames = os.listdir(path)
print(filenames)
print(len(filenames))

 os.listdir() 返回指定的文件夹下包含的文件/文件名

这里,我的images文件夹下还有A/B/C三个文件夹,因此结果为: 

['A', 'B', 'C']
3

一、将A, B, C三个文件夹中的内容合并且复制到给定路径: 


                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值