Pytorch转Onnx转TensorRT踩坑记

最新推荐文章于 2024-06-18 21:10:30 发布
最新推荐文章于 2024-06-18 21:10:30 发布
阅读量7.7k 收藏 3
点赞数 1
分类专栏： 边缘计算 深度学习 文章标签： PyTorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zt1091574181/article/details/99450436
版权

转换Onnx过程中：

PyTorch v1.0.1  Reshape不支持报错 

源码安装PyTorch v1.0.1 caffe2报错

PyTorch v1.2.0 需要升级cuda10.0以上

PyTorch v1.1.0报错：

RuntimeError: Failed to export an ONNX attribute, since it's not constant, please try to make things (e.g., kernel size) static if possible

解决办法，按照如下方式修改：

https://github.com/pytorch/pytorch/commit/11845cf2440c1abb0cb117bcee9532b26573e9c9

即可成功

TensorRT解析onnx失败，Failing to parse onnx file generated by pytorch

解决办法，按照如下方式修改：

https://devtalk.nvidia.com/default/topic/1055172/tensorrt/failing-to-parse-onnx-file-generated-by-pytorch/

修改完成之后，还有问题，是其中的Gather算子的问题，PyTorch官方没有考虑asix=0的情况

幸福回头
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Unsupported format or combination of formats) Failed to parse onnx model
jacke121的专栏
02-15 5051
Unsupported format or combination of formats) Failed to parse onnx model
nnunet-pytorch转onnx
06-13
nnunet-pytorch 转 onnx 是指将 PyTorch 模型转换为 ONNX 模型，以便于在 TensorRT 等平台上进行加速。以下是该过程中涉及到的知识点： 1. PyTorch 和 ONNX 的关系：PyTorch 是一个流行的机器学习框架，而 ONNX 是...
TensorRT显示Could not open file报错解决
weixin_43111445的博客
09-21 598
显示无法打开文件。
onnx 模型 转换成 TensorRT 模型 时, INT64 cast down to INT32 问题
最新发布
tyq64的博客
06-18 277
onnx 模型 转换成 TensorRT 模型 时, INT64 cast down to INT32 问题
tensorflow2.4导出模型转化为onnx模型后，通过tensorrt转化engine模型报错处理
yyc1820252161的博客
04-26 1398
从.pb模型转onnx模型，再到engine模型转化，debug处理
onnx-＞trt路线遇见的坑
爱CV
03-16 1598
1. 多卡训练的模型单卡测试； 参考：#https://www.cnblogs.com/wildkid1024/p/13025352.html # kwargs={'map_location':lambda storage, loc: storage.cuda(gpu_id)} def load_GPUS(model,model_path): state_dict = torch.load(model_path,) # create new OrderedDict that doe.
详解Unsupported format or combination of formats) Failed to parse onnx model
牛肉胡辣汤
01-19 831
在使用ONNX模型时，解析错误是常见的问题之一。本篇技术博客文章详细介绍了"Unsupported format or combination of formats"解析错误的原因和解决方法。希望通过本文的解释和建议，您能够避免或解决这类错误，并顺利地加载和解析您的ONNX模型。
cv2.dnn读取模型报错原因归纳
zicai_jiayou的博客
01-04 7949
问题1：读取onnx出现报错“error: (-210:Unsupported format or combination of formats) Failed to parse onnx model in function 'ONNXImporter'” 出现这个原因网上有挺多种解答，但是首先先检查onnx文件路径是否填写正确。 问题2：读取onnx出现报错“error: (-2:Unspecified error) Can't create layer "317" of type "Clip".
Pytorch通过保存为ONNX模型转TensorRT5的实现
09-16
主要介绍了Pytorch通过保存为ONNX模型转TensorRT5的实现，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
nnunet-pytorch转onnx.zip
12-13
nnunet-pytorch转onnx.zip这个压缩包文件包含了将基于PyTorch实现的nnUNet模型转换为ONNX格式的过程，目的是利用ONNX来提高推理速度，并可能进一步运用TensorRT进行加速。nnUNet是一种高度自动化的神经网络框架，专...
pytorch 将onnx模型转换为trt TensorRT模型
03-20
适用于TensorRT8.0版本及以上 使用步骤 1、chmod 添加文件执行权限 2、将onnx路径修改为自己的onnx模型路径 3、运行py问价
onnx2tensorRt:tensorRt推断darknet2onnx pytorch2onnx mxnet2onnx
04-12
onnx1.5 + (tensorRt7 support onnx1.5) onnxruntime 1.0 python3.6 + docker-cuda10.2 + ubuntu16.04 or ubuntu18.04 (1) yolov4(v3) tensorRt inference python version (2) yolov5 tensorRt inference ...
TensorRT 5/6/7 加载onnx模型
qq_23116521的博客
07-27 5743
TensorRT5/6加载并转换onnx: def onnx_2_trt(onnx_model_name,trt_model_name): with trt.Builder(G_LOGGER) as builder, builder.create_network() as network, trt.OnnxParser(network, G_LOGGER) as parser: builder.max_batch_size = 1024 builder.
tensorrt6不支持pytorch1.9
安卓 高通 bsp ，同行欢迎交流
08-02 560
tensorrt6不支持pytorch1.9 使用tensorrt加载一个pytorch1.9训练完导出为onnx的模型报以下错误： 网上查了查，就是版本问题。 github有相关探讨： https://github.com/onnx/onnx-tensorrt/issues/199#issuecomment-524145151 参考：https://blog.csdn.net/xxradon/article/details/103959758 ...
onnx_to_tensorrt onnx转tensorrt官方py文件
sjy的博客
07-13 467
#!/usr/bin/env python2 # # Copyright 1993-2020 NVIDIA Corporation. All rights reserved. # # NOTICE TO LICENSEE: # # This source code and/or documentation ("Licensed Deliverables") are # subject to NVIDIA intellectual property rights under U.S. and # inter.
TensorRT 开始
m0_56069948的博客
01-13 802
Python微信订餐小程序课程视频 https://edu.csdn.net/course/detail/36074 Python实战量化交易理财系统 https://edu.csdn.net/course/detail/35475 TensorRT 是 NVIDIA 自家的高性能推理库，其 Getting Started 列出了各资料入口，如下： 本文基于当前的 TensorRT 8.2 版本，将一步步介绍从安装，直到加速推理自己的 ONNX 模型。 安装 进 TensorRT 下载页 选择版本下载，需
error: (-210:Unsupported format or combination of formats) *** ‘ONNXImporter‘
勿忘初心,方得始终
08-02 2093
使用opencv加载网络模型时可能遇到一下错误: cv2.error: OpenCV(3.4.8) /io/opencv/modules/dnn/src/onnx/onnx_importer.cpp:57: error: (-210:Unsupported format or combination of formats) Failed to parse onnx model in function 'ONNXImporter' 一般是模型的路径出错,可以先检查一下网络模型的路径是否正确 ...
【yolov5】onnx的INT8量化engine
笔记
11-12 2155
这是因为tensor的版本更新原因，这个代码的tensorrt版本是7系列的，而目前新的tensorrt版本已经没有了一些属性，所以我们需要对这个大佬写的代码进行一些修改。但是奈何我连半桶水都没有，只有一滴水，但是这个例子中的tensorrt版本是新的，于是我尝试将上面那位大佬的代码修改为使用新版的tensorrt。成功量化后的模型大小只有4MB，相比之下的FP16的大小为6MB，FP32的大小为9MB。如果足够NB是可以根据官方的这个例子修改一下实现onnx的INT8量化的。但是效果要差上一些了。
tensorrt的部署和问题
weixin_42476942的博客
02-08 3647
tensorrt的部署和问题 1.pth模型文件转换为onnx,onnx转换为trt出现报错 报错：ERROR: Failed to parse the ONNX file. parser.get_error(error) In node 29 (convert_axis): UNSUPPORTED_NODE: Assertion failed: axis >= 0 && axis < nbDims 此处node 29定位问题的方法，需要onnx模型可视化，直接调用netron
pytorch转onnx转tensorrt
06-28
PyTorch是一个深度学习框架，可以用来构建神经网络模型。ONNX是一种开放的神经网络交换格式，可以将不同框架的...因此，将PyTorch模型转换为ONNX格式，再将ONNX模型转换为TensorRT格式，可以提高模型的推理速度和效率。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值