转载地址:https://bbs.huaweicloud.com/forum/thread-121506-1-1.html
作者:Fancyshun
【功能模块】
obs上传文件
【操作步骤&问题现象】
现象:obs browser上传数据集速度慢、总是出现排队现象
操作步骤:
1、将需要上传的数据集放在压缩包中,然后上传到obs桶中,这样上传速度非常快(个人建议压缩包为zip格式,因为在服务器上不一定解压rar等压缩包命令,自己安装也比较麻烦)
2、运行脚本文件即可将文件解压并保存到obs桶中
这样做的原因:
首先说一下自己刚开始的做法:
(1)本地解压文件之后,直接将文件夹上传到obs桶中。相信很多人刚开始和我做法相同。
缺点:耗时长、容易失败、电脑需要保持长时间开机和联网
(2)上传压缩包,每次训练的时候解压。
缺点:谁都不能保证网络经过一次训练就达到自己想要的效果,这样会导致每次训练都需要解压,浪费训练时间
【截图信息】
这个是我自己上传一个6.9G文件运行时间,我这是在单卡上的运行时长,以及向obs中上传的时长一共需要50分钟。(运行8卡会更快,我没有测试)
【日志信息】(可选,上传日志内容或者附件)