mmdetection训练自己的COCO数据集及常见问题

训练自己的VOC数据集及常见问题见下文：

mmdetection训练自己的VOC数据集及常见问题_不瘦8斤的妥球球饼的博客-CSDN博客_mmdetection训练voc

---

目录

一、环境安装

二、训练测试步骤

三、常见问题

batch size设置

学习率和epoch的修改

训练过程loss为nan的问题

GPU out of memory

保存最佳权重文件

训练生成的.pth文件占用较大内存

---

一、环境安装

代码：GitHub - open-mmlab/mmdetection: OpenMMLab Detection Toolbox and Benchmark

官方安装教程：Prerequisites — MMDetection 2.23.0 documentation

或者mmdetection/get_started.md at master · open-mmlab/mmdetection · GitHub

二、训练测试步骤

步骤一：准备数据。首先根据规范的COCO数据集导入到项目目录下，如下所示：

mmdetection
├── mmdet
├── tools
├── configs
├── data
│ ├── coco
│ │ ├── annotations（放json文件train,val,test）
│ │ ├── train2017（放图片）
│ │ ├── val2017（放图片）
│ │ ├── test2017（放图片）

推荐以软连接的方式创建：

cd mmdetection
mkdir data
ln -s $COCO2017_ROOT data/coco

其中，$COCO2017_ROOT需改为你的coco数据集根目录。

自定义的数据集可借鉴一个大佬的.xml转为coco格式的.json文件代码：把voc格式的标注文件.xml转为coco格式的.json文件_ming.zhang的博客-CSDN博客_pascal voc标注格式

#注意：

1. 将图片和.xml文件放在同一文件夹下
2. 其中xml_list = glob.glob(xml_dir +"/*.xml")中glob.glob要使用绝对路径。

运行该代码可将数据集按照9：1分成训练集和测试集。

步骤二：修改config.py

在configs文件夹中选择自己要训练的config文件，例如：faster_rcnn/faster_rcnn_r50_fpn_1x_