深度学习中大数据整理问题

本文介绍了在深度学习中如何处理和整理大规模数据集,特别是人脸年龄数据集。作者分享了使用Shell脚本在Linux环境下自动化整理数据的过程,包括创建按人物命名的子文件夹和处理文件名的技巧,以适应训练需求。文章还提到了解决‘augment list too long’错误的两种方法,并提供了示例脚本。
摘要由CSDN通过智能技术生成

————————————————————————————————————————————
这段时间一直在整理数据用于训练,但是从网上找到的数据集往往很凌乱,不能满足使用要求。这些数据集少则几万,多则几十万几百万。如果手动去整理这些数据集无疑是一个繁重的工作,甚至无法去做!
这个时候则需要我们写脚本去帮助我们做这件事情!本文作者使用的是shell脚本在linux下面进行文件整理。其他脚本诸如javascript,PHP,Python等应该也可以。
作者仅仅是为了工作而去学习的,作为初学者也是充满了迷茫,写的不好,但是问题总算解决了,现在将个人感悟和学习总结如下。
————————————————————————————————————————————+

一、本文作者整理的数据集

三个关于人脸年龄的数据集:分别是FG-NET,MORPH和CACD2000.
拿MORPH数据集为例,下载的原始数据是所有人物数据都在一个文件夹内。如下图所示:
这里写图片描述

而我所需要的结果是:

这里写图片描述
也就是说,我需要将一个人放在一个子文件夹内,并以其名字命名。

本文所写的脚本是以处理CACD2000数据集为例子,该数据集有2000人,照片共计有16w张。
所写shell脚本主要思路如下:
1.观察数据集合的各个文件名字特点,比如CACD中名字命名规则为:
这里写图片描述

2.命名规则如,42_Adam_Baldwin_0001.jpg, 则我只需要该子文件名字为Adam_Baldwin,那么在检测的时候就需要读取该文件的名字,然后删除左边数第一个左边的字符和从右边数第一个出现符号的字符。

3.删除之后,则该字符串只剩下Adam_Baldwin这个名字,以这个名字为变量mkdir建立新的子文件夹,然后mv,将文件移到该文件夹内即可。

具体shell脚本代码如下:

#!/bin/bash

echo "start..."

#定义文件的路径
folder=
  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 31
    评论
评论 31
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值