pytorch模型转onnx遇到的问题记录

已于 2022-03-15 16:47:42 修改
阅读量4.1k 收藏 6
点赞数
分类专栏： 环境搭建 文章标签： pytorch docker 深度学习
于 2021-10-12 17:05:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ltochange/article/details/120727295
版权

1 . AttributeError: module ‘onnxruntime‘ has no attribute ‘InferenceSession‘

解决方法

  1. FAIL : Non-zero status code returned while running Add node.

尝试过很多方法，发现最终是环境问题，重新安装环境即可，注意cuda版本和onnxruntime的对应关系

https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html

在这里插入图片描述

我是使用镜像https://hub.docker.com/r/anubisdockerhub/cuda11.0-cudnn8启动容器，再安装1.8版本的onnxruntime-gpu解决该问题的

  1. onnxruntime.capi.onnxruntime_pybind11_state.RuntimeException: [ONNXRuntimeError] : 6 : RUNTIME_EXCEPTION : Non-zero status code returned while running Add node. Name:‘Add_9’ Status Message: /onnxruntime_src/onnxruntime/core/providers/cpu/math/element_wise_ops.h:487 void onnxruntime::BroadcastIterator::Append(int64_t, int64_t) axis == 1 || axis == largest was false. Attempting to broadcast an axis by a dimension other than 1. 2 by 3

我出现这个错误是在bert做表征之后，用于命名实体识别，因为是bert是基于sub-word的，所以对最后的输出需要取出每个词最后一个子词对应的表征。在按索引取数时出现这个错误。

解决方法

旺旺棒棒冰
关注
专栏目录
模型部署翻车记：pytorch转onnx踩坑实录
Mrrunsen的博客
10-13 3793
在深度学习模型部署时，从pytorch转换onnx的过程中，踩了一些坑。本文总结了这些踩坑记录，希望可以帮助其他人。 首先，简单说明一下pytorch转onnx的意义。在pytorch训练出一个深度学习模型后，需要在TensorRT或者openvino部署，这时需要先把Pytorch模型转换到onnx模型之后再做其它转换。因此，在使用pytorch训练深度学习模型完成后，在TensorRT或者openvino或者opencv和onnxruntime部署时，pytorch模型转onnx这一步是必不可少的。接
踩坑记录 | pytorch转ONNX时遇到的问题 tinynet smpl
ZYXxxx666的博客
02-07 3296
踩坑记录 | PyTorch转ONNX时遇到的问题 1. torch环境问题 我在转换tinynet模型为onnx时，会产生如下报错 ImportError：cannot import name 'container_abcs' 这是由于torch版本不对，改为1.7.1就没有这个问题；但对于其他模型对这个版本又不适用，onnx对torch的版本是较为敏感的。 转换成功之后还需要验证onnx模型结果，随机生成输入tensor，观察输出结果是否一致，同样注意torch版本问题。 2. 去除不支持算子 在观察
pytorch模型转onnx模型问题汇总
sanxiaw的博客
09-12 2386
pytorch模型转onnx模型问题汇总
C#使用onnxruntime加载模型，部署到别人的PC上报错
最新发布
kd的博客
08-19 424
C#使用onnxruntime加载模型，部署到别人的PC上报错
Pytorch模型转ONNX
yangpan011的博客
07-18 3533
Pytorch模型转ONNX
OnnxRunTime遇到FAIL : Non-zero status code returned while running BatchNormalization node.
hjxu2016的博客
10-29 1万+
遇到FAIL : Non-zero status code returned while running BatchNormalization node. 跑onnxruntime时，发现显卡没有用到 pip install onnxruntime默认是cpu版本的，如何使用gpu版本呢？ 卸载cpu的，再安装GPU的、 我是这么做的。 用rt.get_device()查看是否能够使用GPU版本 import onnxruntime as rt rt.get_device() 安装GPU版本的onnxru
AttributeError: module ‘onnxruntime‘ has no attribute ‘InferenceSession‘
shuaijieer的博客
03-23 2608
提示：AttributeError: module ‘onnxruntime’ has no attribute ‘InferenceSession’起因： 测试yolov5在本地电脑上的速度，输入640*640的图像，推理时间需要100ms左右，不正常。切换到conda环境下，发现安装了onnxruntime 以及onnxruntime-gpu。需要把onnxruntime-gpu卸载掉。运行发现时间只有30ms。
pointnet++模型(带控制流)的pytorch转化onnx流程记录
02-28
PointNet++ 模型的 PyTorch 转 ONNX 流程记录 本文记录了 PointNet++ 模型从 PyTorch 转化为 ONNX 的流程，并将其转化为 MindSpore Lite formato 了解到在这个过程中遇到的挑战和解决方法。 知识点 1：带有控制流...
【pytorch】pytorch 转 onnx 踩坑记录
sunnyblogs的博客
09-02 933
import io import torch import torch.onnx import numpy as np from model.detnet import detnet '''onnx的输入为array''' #device = torch.device("cuda" if torch.cuda.is_available() else "cpu") device = torch.device("cpu") def test(): model = detnet() model = m
Pytorch模型部署：torch-onnx-ncnn
MY_WARNING的博客
08-22 2113
部署
void onnxruntime::BroadcastIterator::Append(int64_t, int64_t) axis == 1 || axis == largest was false
ltochange的博客
10-15 1946
import torch import torch.nn as nn import os from allennlp.nn import util torch.manual_seed(1) os.environ["CUDA_VISIBLE_DEVICES"] = "1" class Test(nn.Module): def __init__(self): super().__init__() pass def forward(self, mix, of
ONNXRUNTIME_EXCEPTION : Non-zero status code returned while running Where node. Name:‘Where‘
andrewchen1985的博客
06-17 8333
遇到此类错误，如：onnxruntime.capi.onnxruntime_pybind11_state.InvalidArgument: [ONNXRuntimeError] : 2 : INVALID_ARGUMENT : Non-zero status code returned while running Gather node. Name:'Gather_4445' Status Message: indices element out of data bounds, idx=8 must be
Python脚本报错AttributeError: ‘module’ object has no attribute’xxx’解决方法
热门推荐
八月的专栏
01-14 4万+
Python脚本报错AttributeError: ‘module’ object has no attribute’xxx’解决方法 2014年04月30日 ⁄ 测试工具, 软件测试 ⁄ 共 678字 ⁄ 字号 小 中 大 ⁄ 暂无评论 ⁄ 阅读 12,782 次 最近在编写Python脚本过程中遇到一个问题比较奇怪：Python脚本正常的，但执行报错"A
AttributeError: module ‘torch‘ has no attribute ‘inference_mode‘
集电极
04-04 5396
在运行论文源码是弹出AttributeError: module 'torch' has no attribute 'inference_mode' 异常 原因是pytorch版本问题 torch.inference_mode()在v1.9发布的，所以要保证pytorch版本在1.9以上。 pytorch 以前版本安装命令网站 https://pytorch.org/get-started/previous-versions/ ...
pycocotools,onnxRuntime_gpu 在jetson(Orin,AGX,Xavier NX,nano,TX1,TX2)边缘端硬件通用安装方法
weixin_44312422的博客
03-20 1749
jetson(Orin,AGX,Xavier NX,nano,TX1,TX2)边缘端硬件pycocotools,onnxRuntime_gpu通用安装方法 ERROR: Could not build wheels for pycocotools, which is required to install pyproject.toml-based projects**
YOLOv5 pt转为onnx
qq_45834106的博客
01-19 1916
使用onnx模型的时候，很反常，打印出来的使用设备是GPU，但是我查看GPU时GPU的利用率是零，并且速度很慢，应该是使用CPU跑的。然后我发现有一个叫dnn的东西可以和onnx配合着使用，我就尝试了一下，此时onnx模型的前向推理速度是1s一张图。运行下面的代码安装onnx相关的环境，按照自己的设备进行选择。所以应该是onnx和cuda、cudnn的版本没对上，重新装就好了。是没办法安装好onnx环境的。看到这里，在我只能说yolov5的作者真的太贴心了。下面是5x的一些实验，均开启了半精度。
PyTorch模型转TensorRT
lavinia_chen007的博客
06-15 2792
文章目录转换步骤概览环境参数PyTorch转ONNXONNX转TensorRT 转换步骤概览 准备好模型定义文件（.py文件） 准备好训练完成的权重文件（.pth或.pth.tar） 安装onnx和onnxruntime 将训练好的模型转换为.onnx格式 安装tensorRT 环境参数 ubuntu-18.04 PyTorch-1.8.1 onnx-1.9.0 onnxruntime-1.7.2 cuda-11.1 cudnn-8.2.0 TensorRT-7.2.3.4 PyTorch转ONNX
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

旺旺棒棒冰

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值