模型部署
文章平均质量分 74
兔子Code
这个作者很懒,什么都没留下…
展开
-
3. Yolov8 ONNX模型部署源码详解
Yolov8的ONNX转换比较简单,仔细看下源码完全可以明白。原创 2023-08-14 13:28:04 · 597 阅读 · 0 评论 -
2. onnx 模型部署进阶
TorchScript 是一种序列化和优化 PyTorch 模型的格式,在优化过程中,一个torch.nn.Module 模型会被转换成 TorchScript 的 torch.jit.ScriptModule 模型。现在,TorchScript 也被常当成一种中间表示使用。 torch.onnx.export 中需要的模型实际上是一个 torch.jit.ScriptModule。而要把普通 PyTorch 模型转一个这样的 TorchScript 模型,有跟踪(trace)和记录(原创 2023-08-13 08:56:46 · 552 阅读 · 1 评论 -
1. onnx 模型部署初探
对于深度学习模型来说,模型部署指让训练好的模型在特定环境中运行的过程。但是深度学习模型是依赖一些框架编写的,这些框架(PyTorch、TensorFlow)由于依赖环境的限制,无法在手机、开发板等生产环境中安装。同时深度学习模型需要大量的算力才能满足实时运行的需求。模型的运行效率需要优化。为了让模型最终能够部署到某一环境上,开发者们可以使用任意一种深度学习框架来定义网络结构,并通过训练确定网络中的参数。原创 2023-08-10 16:24:30 · 208 阅读 · 1 评论