【OpenMMLab】MMDeploy介绍及安装部署

概述

MMDeploy 提供了一系列工具，帮助您更轻松的将 OpenMMLab 下的算法部署到各种设备与平台上。

您可以使用我们设计的流程一“部”到位，也可以定制您自己的转换流程。

流程

MMDeploy 定义的模型部署流程，如图所示：

安装

通过 MIM 安装 MMCV

pip install -U openmim
mim install "mmcv>=2.0.0rc2"

下载MMDeploy

git clone https://github.com/open-mmlab/mmdeploy.git
mim install -e .

安装ONNXRuntime和NCNN等推理框架

pip install onnxruntime ncnn

验证安装

import mmdeploy
print('MMDeploy 版本', mmdeploy.__version__)

import onnxruntime as ort
print('ONNXRuntime 版本', ort.__version__)

import ncnn
print('NCNN 版本', ncnn.__version__)

MMDeploy-在线模型转换工具

https://platform.openmmlab.com/deploee

模型转换-Pytorch转ONNX

python tools/deploy.py \
        configs/mmseg/segmentation_onnxruntime_dynamic.py \
        ../mmsegmentation/Zihao-Configs/ZihaoDataset_FastSCNN_20230712.py \
        ../mmsegmentation/checkpoint/Zihao_FastSCNN.pth \
        ../mmsegmentation/data/watermelon_test1.jpg \
        --work-dir mmseg2onnx_fastscnn \
        --dump-info

模型转换-Pytorch转NCNN

python tools/deploy.py \
        configs/mmseg/segmentation_ncnn_static-512x512.py \
        ../mmsegmentation/Zihao-Configs/ZihaoDataset_FastSCNN_20230712.py \
        ../mmsegmentation/checkpoint/Zihao_FastSCNN.pth \
        ../mmsegmentation/data/watermelon_test1.jpg \
        --work-dir mmseg2ncnn_fastscnn \
        --dump-info

结果：

MMDeploy 在华为CANN平台上的使用

参考博客:
【CANN训练营第三季】CANN6.0环境MMDeploy搭建笔记

【CANN训练营第三季】MMDeploy转换模型

参考文献

官方文档： https://mmdeploy.readthedocs.io/zh_CN/latest/get_started.html

子豪Github Notebook :https://github.com/TommyZihao/MMSegmentation_Tutorials/blob/main/20230816//【M4】MMDeploy模型部署-Pytorch转NCNN.ipynb