解决yolov8训练的一些问题
1、训练的时候出现box_loss、cls_loss、dfl_loss都为nan的情况,需要将训练的时候的参数进行修改,设置amp=False
2、修改之后训练的时候出现P、R、map值为NAN或者非常小,一般来说基于预训练模型来进行训练P、R、map的值都不会很低,如果出现0.0x这种一般是有点问题,这种情况可以尝试以下操作,需要到ultralytics/cfg文件目录下找到default.yaml的默认设置文件
搜索half,将half改成False
half: False # (bool) use half precision (FP16)
然后还需要将ultralytics/engine目录下的validator进行注释
#self.args.half = self.device.type != "cpu" # force FP16 val during training
然后就可以愉快的进行训练自己的数据集了
然后查看run/detect下面的结果,找到result.png,查看训练的结果,发现虽然有一点异常波动,但是整体是在不断收敛的,这样就需要不断调整参数或者更改网络结构进行优化
3、一些参数的设置,目前我也是学习阶段,没有摸得很清楚
如果想看到更多的参数可以将训练的时候将val=True
batch_size是根据自己电脑配置来设置,由于我用的卡显存比较小只有4G,所以我一般都设置的batch=1,也可以设置成batch=-1,让它自己给你根据配置来进行设置batchsize
optimizer是优化器用于调整损失函数,默认情况是auto,但是也可以自己设置**'SGD’、‘Adam’、‘AdamW’、‘RMSProp’**
一般还需要进行设置学习率lr,lr我一般设置在0.0001-0.001之间