解决Yolov8训练时box_loss、cls_loss、dfl_loss、Box(P、R、mAP都等于nan

解决yolov8训练的一些问题

1、训练的时候出现box_loss、cls_loss、dfl_loss都为nan的情况,需要将训练的时候的参数进行修改,设置amp=False
在这里插入图片描述

2、修改之后训练的时候出现P、R、map值为NAN或者非常小,一般来说基于预训练模型来进行训练P、R、map的值都不会很低,如果出现0.0x这种一般是有点问题,这种情况可以尝试以下操作,需要到ultralytics/cfg文件目录下找到default.yaml的默认设置文件
在这里插入图片描述

搜索half,将half改成False

half: False # (bool) use half precision (FP16)

然后还需要将ultralytics/engine目录下的validator进行注释

#self.args.half = self.device.type != "cpu"  # force FP16 val during training

然后就可以愉快的进行训练自己的数据集了
在这里插入图片描述
然后查看run/detect下面的结果,找到result.png,查看训练的结果,发现虽然有一点异常波动,但是整体是在不断收敛的,这样就需要不断调整参数或者更改网络结构进行优化
在这里插入图片描述

3、一些参数的设置,目前我也是学习阶段,没有摸得很清楚

如果想看到更多的参数可以将训练的时候将val=True

batch_size是根据自己电脑配置来设置,由于我用的卡显存比较小只有4G,所以我一般都设置的batch=1,也可以设置成batch=-1,让它自己给你根据配置来进行设置batchsize

optimizer是优化器用于调整损失函数,默认情况是auto,但是也可以自己设置**'SGD’、‘Adam’、‘AdamW’、‘RMSProp’**

一般还需要进行设置学习率lr,lr我一般设置在0.0001-0.001之间

  • 17
    点赞
  • 40
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 11
    评论
评论 11
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yw408

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值