Paddle2ONNX 项目推荐
Paddle2ONNX ONNX Model Exporter for PaddlePaddle 项目地址: https://gitcode.com/gh_mirrors/pa/Paddle2ONNX
1. 项目基础介绍和主要编程语言
Paddle2ONNX 是一个开源项目,旨在将 PaddlePaddle 模型格式转换为 ONNX(Open Neural Network Exchange)模型格式。该项目的主要编程语言是 Python 和 C++。通过 Paddle2ONNX,开发者可以将 PaddlePaddle 模型部署到多种推理引擎,如 TensorRT、OpenVINO、MNN、TNN 和 NCNN 等,以及其他支持 ONNX 格式的推理引擎或硬件。
2. 项目核心功能
Paddle2ONNX 的核心功能包括:
- 模型格式转换:支持将 PaddlePaddle 模型转换为 ONNX 模型格式。
- 多推理引擎支持:通过 ONNX 格式,模型可以部署到多种推理引擎,包括但不限于 TensorRT、OpenVINO、MNN、TNN 和 NCNN。
- 命令行工具:提供命令行工具,方便开发者通过简单的命令行操作完成模型转换。
- 参数调整:支持在转换过程中调整模型的输入输出,以及选择不同的 ONNX OpSet 版本。
3. 项目最近更新的功能
Paddle2ONNX 最近更新的功能包括:
- 版本更新:最新版本为 v1.2.8,提供了更多的功能和优化。
- 模型优化:增加了对 ONNX 模型的优化功能,推荐使用
onnx-simplifier
工具对导出的 ONNX 模型进行优化。 - 量化支持:新增了对量化模型的支持,可以通过参数调整将模型转换为 FP16 格式,并使用 ONNXRuntime-GPU 加速推理。
- 自定义 OP 支持:增加了将 Paddle OP 导出为 ONNX 的 Custom OP 的功能,开发者可以通过
--custom_ops
参数指定自定义 OP 的映射关系。
通过这些更新,Paddle2ONNX 进一步提升了模型的转换效率和部署灵活性,为开发者提供了更强大的工具支持。
Paddle2ONNX ONNX Model Exporter for PaddlePaddle 项目地址: https://gitcode.com/gh_mirrors/pa/Paddle2ONNX