RT-DETR的学习笔记

1. RT-DETR

GitHub: PaddleDetection/tree/develop/configs/rtdetr

2. 复现训练流程

2.1 原文使用设备

2.2 环境要求

4*v100
cuda >= 11.7.1
nccl >= 2.7
paddlepaddle-gpu >= 2.4.1

2.3 创建conda环境

conda create --name ppdet python=3.10

2.4 确认NCCL版本号

cat /usr/include/nccl.h | grep NCCL_MAJOR -A 2

2.5 安装RT-DETR推荐的paddle版本

前往官网安装当前稳定的paddle版本，[paddle-stable]；

2.5 Clone项目代码

git clone -b develop \
https://github.com/PaddlePaddle/PaddleDetection.git

若无法正常连接GitHub，使用以下命令clone代码

AIStudio

拉取develop分支

!git clone -b develop \
https://gitee.com/paddlepaddle/PaddleDetection.git

矩阵云

git clone -b develop \
https://gitee.com/paddlepaddle/PaddleDetection.git

2.6 安装第三方依赖

cd PaddleDetection

pip install -r requirements.txt

2.7 配置cuDNN

安装cuDNN请参考《CUDA & cuDNN Installbook by Eric》

配置环境变量

export LD_LIBRARY_PATH=/home/songyuc/anaconda3/envs/paddle/lib

Note：这一步如果不配置的话，后面进行ppdet框架测试的时候就会报错。

2.7 编译PPDet

编译安装：

python setup.py install

验证测试：

python ppdet/modeling/tests/test_architectures.py

2.8 解压数据集压缩包 [AIStudio]

2.9 估计训练时间

RT-DETR-R101: FLOPs≈259G, 4 days

RT-DETR-X: FLOPs≈234G, 4 days

2.10 存储管理

训练之后新增的文件夹：log & output

3. Ubuntu移植笔记

python tools/train.py -c configs/rtdetr/rtdetr_hgnetv2_l_6x_coco.yml \
--eval