一、简介
MMDeploy 是一个开源的深度学习模型部署工具集,是OpenMMLab项目的一部分。能更轻松的将 OpenMMLab 下的算法部署到各种设备与平台上。
OpenMMLab常用框架:MMDetection、MMSegmentation、MMOCR。
MMDeploy主要提供以下功能:
中间表示 ONNX 的定义标准。
PyTorch 模型转换到 ONNX 模型的方法。
推理引擎 ONNX Runtime、TensorRT 的使用方法。
部署流水线 PyTorch - ONNX - ONNX Runtime/TensorRT 的示例及常见部署问题的解决方法。
MMDeploy C/C++ 推理 SDK。