MMDeploy部署实战系列【第三章】：MMdeploy pytorch模型转换onnx，tensorrt

gy-7

已于 2022-09-20 09:40:33 修改

阅读量4.5k

点赞数 5

分类专栏： MMDeploy部署实战系列文章标签： pytorch 深度学习人工智能

于 2022-07-27 11:02:49 首次发布

本文链接：https://blog.csdn.net/qq_39435411/article/details/126010407

版权

MMDeploy部署实战系列专栏收录该内容

7 篇文章 24 订阅

订阅专栏

MMDeploy部署实战系列【第三章】：MMdeploy pytorch模型转换onnx，tensorrt

⭐️ ⭐️ ⭐️ 这个系列是一个随笔，是我走过的一些路，有些地方可能不太完善。如果有那个地方没看懂，评论区问就可以，我给补充。

python ./tools/deploy.py \
    ${DEPLOY_CFG_PATH} \
    ${MODEL_CFG_PATH} \
    ${MODEL_CHECKPOINT_PATH} \
    ${INPUT_IMG} \
    --test-img ${TEST_IMG} \
    --work-dir ${WORK_DIR} \
    --calib-dataset-cfg ${CALIB_DATA_CFG} \
    --device ${DEVICE} \
    --log-level INFO \
    --show \
    --dump-info

参数描述：

deploy_cfg : MMDeploy 中用于部署的配置文件路径。
model_cfg : OpenMMLab 系列代码库中使用的模型配置文件路径。
checkpoint : OpenMMLab 系列代码库的模型文件路径。
img : 用于模型转换时使用的图像文件路径。
–test-img : 用于测试模型的图像文件路径。默认设置成None。
–work-dir : 工作目录，用来保存日志和模型文件。
–calib-dataset-cfg : 此参数只有int8模式下生效，用于校准数据集配置文件。若在int8模式下未传入参数，则会自动使用模型配置文件中的’val’数据集进行校准。
–device : 用于模型转换的设备。默认是cpu。
–log-level : 设置日记的等级，选项包括’CRITICAL’， ‘FATAL’， ‘ERROR’， ‘WARN’， ‘WARNING’， ‘INFO’， ‘DEBUG’， ‘NOTSET’。默认是INFO。
–show : 是否显示检测的结果。
–dump-info : 是否输出 SDK 信息。

如何查找pytorch模型对应的部署配置文件

在 configs/ 文件夹中找到模型对应的代码库文件夹。例如，转换一个yolov3模型您可以查找到 configs/mmdet 文件夹。
根据模型的任务类型在 configs/codebase_folder/ 下查找对应的文件夹。例如yolov3模型，您可以查找到 configs/mmdet/detection 文件夹。
在 configs/codebase_folder/task_folder/ 下找到模型的部署配置文件。例如部署yolov3您可以使用 configs/mmdet/detection/detection_onnxruntime_dynamic.py。

模型转换示例

0️⃣ 转换命令

python ./tools/deploy.py \
    configs/mmdet/detection/detection_tensorrt_dynamic-320x320-1344x1344.py \
    $PATH_TO_MMDET/configs/yolo/yolov3_d53_mstrain-608_273e_coco.py \
    $PATH_TO_MMDET/checkpoints/yolo/yolov3_d53_mstrain-608_273e_coco.pth \
    $PATH_TO_MMDET/demo/demo.jpg \
    --work-dir work_dir \
    --show \
    --device cuda:0

1️⃣ 分类resnext50 tensorrt转换脚本

进入mmdeploy docker容器

docker run --gpus all -it -p 8080:8080 -v /home/xbsj/gaoying/mmdeploy_out/:/root/workspace/mmdeploy_out mmdeploy:2104

脚本：转换为onnx文件和tensorrt文件

git clone https://gitee.com/monkeycc/mmclassification.git
cd mmclassification
pip install -e .
mkdir checkpoints
cd checkpoints

wget https://download.openmmlab.com/mmclassification/v0/resnext/resnext50_32x4d_b32x8_imagenet_20210429-56066e27.pth -O resnext50_32x4d_b32x8_imagenet.pth
cd ../../mmdeploy

python tools/deploy.py configs/mmcls/classification_tensorrt_dynamic-224x224-224x224.py ../mmclassification/configs/resnext/resnext50_32x4d_b32x8_imagenet.py ../mmclassification/checkpoints/resnext50_32x4d_b32x8_imagenet.pth ../mmclassification/demo/demo.JPEG --work-dir ../mmdeploy_out/mmcls/resnext50_trt --device cuda:0 --dump-info

2️⃣ 检测yolox-s tensorrt转换脚本(失败)

进入mmdeploy docker容器

docker run --gpus all -it -p 8080:8080 -v /home/xbsj/gaoying/mmdeploy_out/:/root/workspace/mmdeploy_out mmdeploy:2104

脚本：转换为onnx文件和tensorrt文件

cd mmdetection/checkpoints
wget https://download.openmmlab.com/mmdetection/v2.0/yolox/yolox_s_8x8_300e_coco/yolox_s_8x8_300e_coco_20211121_095711-4592a793.pth -O yolox_s_8x8_300e_coco.pth
cd ../../mmdeploy

python tools/deploy.py configs/mmdet/detection/detection_tensorrt_dynamic-320x320-1344x1344.py ../mmdetection/configs/yolox/yolox_s_8x8_300e_coco.py ../mmdetection/checkpoints/yolox_s_8x8_300e_coco.pth ../mmdetection/demo/demo.jpg --work-dir ../mmdeploy_out/mmdet/yolox_l_tensorrt/ --device cuda:0 --dump-info

3️⃣ 检测faster rcnn r50 tensorrt转换脚本

进入mmdeploy docker容器

docker run --gpus all -it -p 8080:8080 -v /home/xbsj/gaoying/mmdeploy_out/:/root/workspace/mmdeploy_out mmdeploy:2104

脚本：转换为onnx文件和tensorrt文件

git clone https://gitee.com/open-mmlab/mmdetection.git
cd mmdetection
pip install -e .
mkdir checkpoints
cd checkpoints
wget https://download.openmmlab.com/mmdetection/v2.0/faster_rcnn/faster_rcnn_r50_fpn_1x_coco/faster_rcnn_r50_fpn_1x_coco_20200130-047c8118.pth
mv faster_rcnn_r50_fpn_1x_coco_20200130-047c8118.pth faster_rcnn_r50_fpn_1x_coco.pth
cd ../../mmdeploy

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple pycuda

python tools/deploy.py configs/mmdet/detection/detection_tensorrt_dynamic-320x320-1344x1344.py ../mmdetection/configs/faster_rcnn/faster_rcnn_r50_fpn_1x_coco.py ../mmdetection/checkpoints/faster_rcnn_r50_fpn_1x_coco.pth ../mmdetection/demo/demo.jpg --work-dir ../mmdeploy_out/mmdet/faster_rcnn_r50_trt/ --device cuda:0 --dump-info