Pytorch模型转ONNX模型

已于 2024-02-17 00:10:04 修改
阅读量456 收藏
点赞数
分类专栏： # LLM/部署 文章标签： pytorch 人工智能 python
于 2022-08-10 20:06:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013250861/article/details/126272117
版权

ONNX，全称： Open Neural Network Exchange（ONNX，开放神经网络交换），是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移。

ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch, MXNet）可以采用相同格式存储模型数据并交互。ONNX的规范及代码主要由微软，亚马逊 ，Facebook 和 IBM 等公司共同开发，以开放源代码的方式托管在Github上。目前官方支持加载ONNX模型并进行推理的深度学习框架有：Caffe2, PyTorch,MXNet，ML.NET，TensorRT和Microsoft CNTK，并且TensorFlow也非官方的支持ONNX。

ONNX模型可以看作是模型转化之间的中间模型，同时也是支持做推理的。一般来说，onnx的推理 速度要比pytorch快上一倍。

环境配置

  • CUDA版本：11.3.1
  • cuDNN版本：8.2.1
  • TensorRT版本：8.0.3.4
  • 显卡：1650
  • pytorch：1.10.2

模型的转化和推理对版本有要求，如果版本对应不上很可能出现千奇百怪的问题。

参考资料：
【pytorch模型转onnx模型】一些模型转化和加速推理的知识

了解本专栏 订阅专栏 解锁全文 超级会员免费看
u013250861
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
Pytorch模型转ONNX格式详解
crasher123的博客
06-08 3833
ONNX（Open Neural Network Exchange）则是一种开源的跨平台深度学习框架。将PyTorch模型转为ONNX格式可以使得该模型可以在其他的深度学习框架中使用，如TensorFlow，Caffe等。下面介绍一下PyTorch转ONNX的原理和方法。
模型转换 PyTorch转ONNX 入门
黎国溥
02-17 1万+
本文主要介绍如何将PyTorch模型转换为ONNX模型，为后面的模型部署做准备。转换后的xxx.onnx模型，进行加载和测试。最后介绍使用Netron，可视化ONNX模型，看一下网络结构；查看使用了那些算子，以便开发部署。目录前言一、PyTorch模型转ONNX模型1.1 转换为ONNX模型且加载权重1.2 转换为ONNX模型但不加载权重1.3 torch.onnx.export() 函数二、加载ONNX模型三、可视化ONNX模型。
Pytorch 转ONNX详解
陶将的博客
11-06 6797
模型部署面临两大问题，如何让开发者不受开发框架的限制和如何提升模型的运算效率。经过工业界和学术界数年的探索，一般流行的模型部署流水线是：首先开发者们在任意一种深度学习框架下定义网络结构，训练得到网络参数；然后，将模型的结构和参数转换成一种只描述网络结构的中间表示。针对网络结构的优化会在这步进行。ONNX就是一种模型中间表示。 最后，用面向硬件的高性能编程框架(如 CUDA，OpenCL）编写能高效执行深度学习网络中算子的推理引擎，推理引擎将中间表示转换成特定的文件格式。
【极速上手pytorch转onnx及推理】
最新发布
weixin_47869094的博客
06-21 380
可以在 https://netron.app/ 中拖入 resnet18.onnx 文件查看模型结构。我们先导入torchvision中的resnet18模型，演示它的推理效果。本文介绍将pytorch模型转换成onnx模型并进行推理的方法。下面的代码包括了设置输入输出尺寸，以及动态可以变batch等等。以便和onnx的结果进行对比。
Pytorch转onnx详解
weixin_40920183的博客
01-31 1082
前言本文作者总结了自己参与Pytorch到ONNX的模型转换转换工作中的经验，主要介绍了该转换工作的意义，模型部署的路径以及Pytorch本身的局限。作者：立交桥跳水冠军@知乎仅用于学术分享，若侵权请联系删除之前几个月参与了OpenMMlab的模型转ONNX的工作（github account: drcut），主要目标是支持OpenMMLab的一些模型从Pytorch到ONNX的转换。这几个月虽...
模型部署入门教程（三）：PyTorch 转 ONNX 详解
qq_39967751的博客
05-23 1万+
OpenMMLab：模型部署系列教程（一）：模型部署简介 OpenMMLab：模型部署系列教程（二）：解决模型部署中的难题 知道你们在催更，这不，模型部署入门系列教程来啦~ 在前二期的教程中，我们带领大家成功部署了第一个模型，解决了一些在模型部署中可能会碰到的困难。今天开始，我们将由浅入深地介绍 ONNX 相关的知识。ONNX 是目前模型部署中最重要的中间表示之一。学懂了 ONNX 的技术细节，就能规避大量的模型部署问题。 在把 PyTorch 模型转换成 ONNX 模型时，我们往往只需要轻松地调用一
Pytorch模型转onnx模型
joey.lei的博客
12-26 1万+
Pytorch模型转onnx模型 import io import torch import torch.onnx from models.C3AEModel import PlainC3AENetCBAM device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") def test(): model ...
pytorch模型转onnx
kangkjz的博客
05-20 1133
安装onnx pip install onnx pip install onnxruntime pth模型转换为onnx 以Resnet50为例 pytorch1.6.0 onnx1.9.0 onnxruntime1.7.0 简单示例如下： import torch import torchvision import numpy import onnx import onnxruntime device = torch.device("cuda:0" if torch.cuda.is_availab
Pytorch模型转onnx模型实例
09-18
今天小编就为大家分享一篇Pytorch模型转onnx模型实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
YOLOv5算法移植部署RK3399Pro开发板及pytorch模型转ONNX转RKNN(带说明文档).zip
10-18
YOLOv5算法移植部署RK3399Pro开发板及pytorch模型转ONNX转RKNN(带说明文档).zipYOLOv5算法移植部署RK3399Pro开发板及pytorch模型转ONNX转RKNN(带说明文档).zip YOLOv5算法移植部署RK3399Pro开发板及pytorch模型转...
nnunet-pytorch转onnx
06-13
nnunet-pytorch 转 onnx 是指将 PyTorch 模型转换为 ONNX 模型，以便于在 TensorRT 等平台上进行加速。以下是该过程中涉及到的知识点： 1. PyTorch 和 ONNX 的关系：PyTorch 是一个流行的机器学习框架，而 ONNX 是...
pytorch训练图像分类模型pth转ONNX并测试
10-29
3. 含训练和测试数据，含训练ok的pth模型和ONNX模型，含完整python和C++实现； 4. 使用方法：首先运行“TrainTestConvertOnnx.py”执行“训练数据读入、模型训练、模型测试、导出onnx”，再运行“TestOnnx.cpp”...
torch.onnx.export():将pytorch模型转换为.onnx模型
热门推荐
QFJIZHI的博客
04-01 4万+
torch.onnx.export(model, args, f, export_params=True, verbose=False, training=False, input_names=None, output_names=None, aten=False, export_raw_ir=False, operator_export_type=None, opset_version=Non...
【深度学习框架格式转化】【CPU】Pytorch模型转ONNX模型格式流程详解【入门】
yangyu0515的博客
09-19 2796
【深度学习框架格式转化】【CPU】Pytorch模型转ONNX模型格式流程详解【入门】
pytoch模型转成onnx模型
qq_42178122的博客
12-08 3141
什么是ONNX onnx定义了一种可扩展的计算图模型\一系列内置的运算(op)和标准数据类型.每一个计算流图都定义为由节点组成的列表,并构建有向无环图.其中,每一个节点都有一个或者多个输入与输出,每一个节点都称为一个一个OP.这相当于一种通用的计算图,不同深度学习框架构建的计算图都能转换成它. Caffe2, PyTorch, Microsoft Cognitive Toolkit, Apache MXNet 和其他工具都在对ONNX进行支持。在不同的框架之间实现互操作性，并简化从研究到产品化的过程，将提高
torch转onnx模型
Y_snower的博客
06-24 3913
以分类为例torch转换为onnx模型
一文掌握Pytorch-onnx-tensorrt模型转换
m0_38043555的博客
03-07 2万+
一文掌握Pytorch-onnx-tensorrt模型转换pytorch转onnx pytorch转onnx 对于实际部署的需求，很多时候pytorch是不满足的，所以需要转成其他模型格式来加快推理。常用的就是onnx，onnx天然支持很多框架模型的转换， 如Pytorch,tf,darknet,caffe等。而pytorch也给我们提供了对应的接口，就是torch.onnx.export。下面具体到每一步。 首先，环境和依赖：onnx包，cuda和cudnn，我用的版本号分别是1.7.0, 10.1
pytorch模型转ONNX模型(支持批处理)
zxgmlcj的博客
11-27 2万+
本篇幅介绍pytorch模型转ONNX模型 一、pytorch模型保存/加载 有两种方式可用于保存/加载pytorch模型 1）文件中保存模型结构和权重参数 2）文件只保留模型权重. 1、文件中保存模型结构和权重参数 1）pytorch模型保存 import torch torch.save(selfmodel,"save.pt") 2）pytorch模型加载 import torch torc...
TenserRT（三）PYTORCH 转 ONNX 详解
fanre的专栏
04-12 2238
跟踪法和脚本化在导出待控制语句的计算图时有什么区别。torch.onnx.export()中如何设置input_names, output_names, dynamic_axes。使用torch.onnx.is_in_onnx_export()来使得模型在转换到ONNX时有不同的行为。查询ONNX 算子文档。查询ONNX算子对PyTorch算子支持情况。查询ONNX算子对PyTorch算子使用方式。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值