问题描述:
windows安装MindSpore1.5,利用MindStudio--python3.7.5,本地CPU训练,DeepLabv3,数据集voc2012(不混合SBD数据集);
参考gitee上帖子:models: Models of MindSpore - Gitee.com
参数如下:
--data_file=D:\code\models-master\official\cv\deeplabv3\src\data\preprocess\MindRecoder_train0
--device_target=CPU
--train_dir=./ckpt
--train_epochs=20
--batch_size=8
--crop_size=513
--base_lr=0.015
--lr_type=cos
--min_scale=0.5
--max_scale=2.0
--ignore_label=255
--num_classes=21
--model=deeplab_v3_s16
--ckpt_pre_trained=D:\code\models-master\official\cv\deeplabv3\model\resnet101_ascend_v120_imagenet2012_official_cv_bs32_acc78.ckpt
--save_steps=3
--keep_checkpoint_max=200
问题:batch_size初始设为32,16都报错内存不足;
后调整为8,但训练几步后报错,提示如下
解答:
根据您最后一张截图,应该还是内存的问题,你可以再进行一下微调。您可以再调小一点,或是检查一下单个数据是否过大,过大也可能会导致内存不足。