【Pytorch】【OnnxRuntime部署】系列学习文章目录

ONNX 简介

ONNX，即Open Neural Network Exchange（开放神经网络交换），是一种开放的格式，用于表示机器学习模型，尤其是深度学习模型。ONNX旨在实现不同框架之间的人工智能模型的互操作性。这意味着，一旦一个模型被转换成ONNX格式，它就可以在支持ONNX的不同平台和框架之间共享和使用，而不必担心兼容性问题。通过ONNX，开发者能够在不同的开发环境中训练模型，并在目标部署环境中无缝地运行这些模型，极大地简化了机器学习模型的开发、训练、优化和部署流程。这种灵活性对于企业级应用尤为重要，因为它可以加速产品迭代，并帮助团队更有效地利用现有的基础设施。

---

学习目标

总体来说，学习ONNX可以带来以下几方面的益处：

1. 提高模型的可移植性： 通过学习ONNX，你可以将你的模型从一个深度学习框架迁移到另一个框架，或者从开发环境迁移到生产环境，而不需要重写代码或重新训练模型。
2. 增强模型的互操作性： ONNX支持多种深度学习框架，因此学习ONNX可以让你更容易地与其他开发者的模型进行集成，无论他们使用的是哪种框架。
3. 简化部署流程： ONNX提供了统一的模型表示，使得模型可以在不同的平台上部署，包括各种硬件加速器如GPU、FPGA等，这有助于简化从模型训练到实际应用的流程。
4. 优化模型性能： ONNX Runtime提供了高性能的模型推理能力，并且支持多种优化技术，学习ONNX可以帮助你更好地优化模型，使其在实际应用中表现出更高的性能。

onnx还能再转化成TensorRT(GPU)格式和OpenVINO(CPU)格式进行推理，进一步提升速度

---

学习内容

快速入门

快速入门篇章不会全面详细的介绍onnxruntime的知识点，以伪装对象分割(COS)之PFNet算法(pytorch框架)为例，详细介绍了从pytorch模型转化为onnx模型的过程，以及转化后的onnx模型的多种部署和调用方式。

1. Pytorch转ONNX流程详解以及onnxruntime_python_cpu部署onnx模型
2. Pytorch转ONNX流程详解以及onnxruntime_python_gpu部署onnx模型
3. python打包exe快速部署
4. 多线程同时部署多个onnx模型
5. opencv_cpu部署onnx模型
6. opencv_gpu部署onnx模型
7. onnxruntime_c++部署onnx模型

适合一些基础比较好，接受能力比较强，想要快速上手的读者。

OnnxRuntime系统学习–Python篇

本章节将系统的学习如何将不同任务的pytorch模型转换成onnx模型后，使用OnnxRuntime完成部署，包括图像分类、目标检查、语义分割以及实例分割等等。

1. 入门基础篇
   模型转化、环境搭建以及onnxruntime模型部署的详细介绍。
2. 图像分类篇
   OnnxRuntime部署VggNet模型
   OnnxRuntime部署ResNet模型

OnnxRuntime系统学习–C++篇

本章节将系统的学习如何将不同任务的pytorch模型转换成onnx模型后，使用OnnxRuntime完成部署，包括图像分类、目标检查、语义分割以及实例分割等等。

1. 入门基础篇
   模型转化、环境搭建以及onnxruntime模型部署的详细介绍。
2. 图像分类篇
   OnnxRuntime部署VggNet模型
   OnnxRuntime部署ResNet模型

参考

[学习笔记] ONNX 基础知识
深度学习模型部署

---