使用mindspore提供的docker运行官方示例resnet_thor,训练速度非常慢

博客讲述了在使用MindSpore进行ResNet训练时遇到的性能问题,即数据集存于NAS导致训练速度极其缓慢。通过将数据集移至本地,训练时间显著下降,每个epoch的时间从一个多小时降低到仅需几分钟,验证了数据IO是性能瓶颈的关键因素。
摘要由CSDN通过智能技术生成

https://gitee.com/mindspore/mindspore/tree/r1.3/model_zoo/official/cv/resnet_thor

【操作步骤&问题现象】

1、拉取mindspore 1.3的镜像:

docker pull swr.cn-south-1.myhuaweicloud.com/mindspore/mindspore-gpu:1.3.0

2、运行镜像

docker run -it -v /dev/shm:/dev/shm -v /path/to/dataset:/path/to/dataset --runtime=nvidia --privileged=true swr.cn-south-1.myhuaweicloud.com/mindspore/mindspore-gpu:1.3.0

3、在8卡v100机器上训练

sh run_distribute_train_gpu.sh /path/to/dataset 8

【日志信息】(可选,上传日志内容或者附件)

epoch: 32 step: 5004, loss is 2.2936077
epoch: 32 step: 5004, loss is 2.403049
epoch: 32 step: 5004, loss is 1.8597395
epoch: 32 step: 5004, loss is 2.1784513
epoch: 32 step: 5004, loss is 2.1430013
epoch: 32 step: 5004, loss is 1.8287767
epoch: 32 step: 5004, loss is 1.927578
epoch: 32 step: 5004, loss is 1.8246645
epoch time: 5372604.995 ms, per step time: 1073.662 ms
epoch time: 5372619.719 ms, per step time: 1073.665 ms
epoch time: 5372814.251 ms, per step time: 1073.704 ms
epoch time: 5372513.237 ms, per step time: 1073.644 ms
epoch time: 5372558.263 ms, per step time: 1073.653 ms
epoch time: 5372484.428 ms, per step time: 1073.638 ms
epoch time: 5372676.158 ms, per step time: 1073.676 ms
epoch time: 5372801.586 ms, per step time: 1073.701 ms

可以看到一个epoch需要一个多小时,非常慢

解答:

目前发现原因是数据集放在NAS中导致数据IO时间异常缓慢,将数据放到本地后训练速度正常。

epoch time: 578507.771 ms, per step time: 115.609 ms
epoch time: 578507.287 ms, per step time: 115.609 ms
epoch time: 578551.361 ms, per step time: 115.618 ms
epoch time: 578576.957 ms, per step time: 115.623 ms
epoch time: 578575.861 ms, per step time: 115.623 ms
epoch time: 578589.717 ms, per step time: 115.625 ms
epoch time: 578743.663 ms, per step time: 115.656 ms
epoch time: 578714.027 ms, per step time: 115.650 ms
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值