yolov3 onnx nms

最新推荐文章于 2024-04-02 16:12:22 发布
最新推荐文章于 2024-04-02 16:12:22 发布
阅读量3.9k 收藏 1
点赞数
分类专栏： 深度学习宝典 onnx
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jacke121/article/details/104337391
版权

测试pytorch cpu版，需要1.4s，300多ms还是有点优化的。

服务器上cpu2.07s 

 

https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt

版本需要按照作者的：

Onnx 1.4.1

有预测代码和下载方法：

https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt/blob/master/detect.py

测试结果：300多ms，有cpu版好像差不多，无优化

有权重：

https://github.com/htshinichi/onnx-yolov3

https://github.com/jacke121/onnx-yolov3

这个加载权重失败，报错：

onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Node (layer1-conv) Op (Conv) [ShapeInferenceError] Attribute dilations has incorrect size

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI视觉网奇
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
解决 [ONNXRuntimeError] : 1 : FAIL Non-zero status code returned
05-16
pytorch转onnx模型后，对onnx模型进行runtime时提示以下错误，具体细节如下： onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Non-zero status code returned while running FusedConv node. Name:'Conv_461_Add_463_Relu_464' Status Message: CUDNN error executing cudnnSetTensorNdDescriptor(tensor_, dataType, static_cast<int>(rank), dims.data(), strides.data())。 pdf文件中是对该错误的解决思路。
【代码分析】Tensorflow OpShapeInferenceFn 详解
HaoBBNuanMM的博客
03-31 910
目录 背景 OpShapeInference分析 举个栗子 背景 在我之前的文章Tensorflow自定义算子实现原理中说明了自定义OP的注册过程，其中开始的第一步通过REGISTER_OP注册算子，有一个类型为OpShapeInferenceFn的参数通过SetShapeFn注册到OpRegistrationData对象中，本文解释OpShapeInferenceFn的作用和实例 OpShapeInference分析 OP定义了Input和Output，但是没有定义它们的形状（...
AttributeError系列之：AttributeError: 'tuple' object has no attribute 'shape'
热门推荐
qq_41368074的博客
04-24 9万+
翻译：属性错误，tuple对象没有shape属性。 这往往发生在我们对一个tuple类型数据，调用成员变量shape所致（a.shape 或 a.shape[]）。 所以要查看调用发生处，看看自己的数据类型是不是有错。我们看代码 import numpy as np a = np.zeros([5,5]) #正确使用方式： print(a) print(type(a)) print(ty...
onnx 推理报错：onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Load mo
最新发布
m0_71816999的博客
04-02 330
有可能是你转换的是gpu但是推理是cpu，因此卸载cpu版本，重新安装gpu版本。onnx 模型不匹配。
[ShapeInferenceError] Mismatch between number of source and target dimensions. Source=1 Target=0
AI吃大瓜的博客
07-06 1985
Pytorch转ONNX模型正常，但使用onnxruntime加载onnx模型，会输出错误： onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Exception during loading: /onnxruntime_src/onnxruntime/core/graph/function.cc:420 onnxruntime::FunctionImpl::FunctionImpl(con
torch to onnx加速，复杂网络pytorch转onnx报错记录及解决
unique_zhao的博客
12-18 1970
torch转onnx中问题的解决思路，设计interpolate算子，instance norm， grid sampler
onnxruntimerror [shapeinferenceerror] incompatible dimensions
u014248147的博客
08-31 568
最后的解决方式是，卸载pyroch，重装torch和torchvision，pillow和其他依赖包，我的模型里还需要更新pip install --upgrade charset-normalizer。打包onnx遇到了一个bug，意思是我的某个节点的运算时维度不对，通过netron查看了节点，翻看了代码以后是没有问题的。今天又是神奇的一天🙄。
Pytorch转TensorRT中的坑
yangjf91的博客
03-26 2万+
  Pytorch转ONNX再转TensorRT，其中遇到一些转的时候会出现的层需要修改的问题，这里对修改的层做一些总结。 reshape   Pytorch中会有很多需要reshape的操作，可用的算子有： reshape view flatten   前两个都是需要指定reshape后完整的尺寸大小，因此使用中需要先获取输入数据的维度，这个在Pytorch框架下使用没有问题，但用到Tens...
yolov3：PyTorch中的YOLOv3> ONNX> CoreML> TFLite
02-03
** GPU速度使用批处理大小为32的V100 GPU测量超过5000张COCO val2017图像的平均每张图像的端到端时间，包括图像预处理，PyTorch FP16推理，后处理和NMS。 来自EfficientDet数据（批量大小为8）。 预训练的检查站 ...
yolov5：PyTorch中的YOLOv5> ONNX> CoreML> TFLite
02-03
** GPU速度使用批处理大小为32的V100 GPU测量超过5000张COCO val2017图像的平均每张图像的端到端时间，包括图像预处理，PyTorch FP16推理，后处理和NMS。 来自EfficientDet数据（批量大小为8）。 2021年1月5日： ...
yolov5:PyTorch中的YOLOv5> ONNX> CoreML> iOS
05-11
** GPU速度使用批处理大小为32的V100 GPU测量超过5000张COCO val2017图像的平均每张图像的端到端时间，包括图像预处理，PyTorch FP16推理，后处理和NMS。 来自EfficientDet数据（批量大小为8）。 2021年1月5日： ...
yolov5:PyTorch中的YOLOv5> ONNX> CoreML> TFLite
05-11
GPU速度使用批处理大小为32的V100 GPU测量平均超过5000张COCO val2017图像的端到端时间，包括图像预处理，PyTorch FP16推理，后处理和NMS。 来自EfficientDet数据（批量大小为8）。 通过python test.py --task ...
yolov7人体位姿估计模型文件yolov7-w6-pose
02-02
yolov7人体位姿估计模型文件yolov7-w6-pose
Insightface MxNet转成TNN模型
nantox的博客
01-15 677
Insightface MxNet转成TNN模型 1.项目配置： 虚拟环境：infightfaceenv 环境信息： mxnet 1.4.0 cuda 10.0.130 onnx 1.3.0 （最初使用1.6.0， 会出现报错: Unrecognized attribute: spatial for operator BatchNormalization 后修改为1.3.0 ) netron (模型可视化) 2.MXNET转成ONNX模型 参考：链接: Insightface中ArcFace MxNet
深度学习模型转换与部署那些事(含ONNX格式详细分析)
gdamichael的博客
11-14 6017
转自http://bindog.github.io/blog/2020/03/13/deep-learning-model-convert-and-depoly/ 背景 深度学习模型在训练完成之后，部署并应用在生产环境的这一步至关重要，毕竟训练出来的模型不能只接受一些公开数据集和榜单的检验，还需要在真正的业务场景下创造价值，不能只是为了PR而躺在实验机器上 在现有条件下，一般涉及到模型的部署就要涉及到模型的转换，而转换的过程也是随着对应平台的不同而不同，一般工程师接触到的平台分为GPU云平台、手机和其
onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Load model from mn
weixin_46235937的博客
04-24 7115
cc:110 onnxruntime::Model::Model(onnx::ModelProto&&, const PathString&, const IOnnxRuntimeOpSchemaRegistryList*, const onnxruntime::logging::Logger&) Unknown model file format version.
详细介绍 Yolov5 转 ONNX模型 + 使用ONNX Runtime 的 Python 部署（包含官方文档的介绍）
qq_22487889的博客
12-01 3万+
目前在做模型部署的工作，使用YOLO开始学起，先学会ONNX以后在学习各种边缘平台的部署。
onnx添加nms
大山的专栏
11-03 3314
import numpy as np import onnx from onnx import defs, checker, helper, numpy_helper, mapping from onnx import ModelProto, GraphProto, NodeProto, AttributeProto, TensorProto, OperatorProto, OperatorSetIdProto from onnx.helper import make_tensor, make_tenso
YOLOV5模型转onnx并推理
qq128252的博客
09-29 2万+
由于yolov5的模型和整个项目相互关联，所以转onnx无法用常规方法，只能用内部的转onnx方法。3.计算该框与其它框的IOU，去除掉重复的框，即IOU值大的框。1.删除置信度小于conf_thres的BOX。batch、width、height为动态的。2.通过argmax获取置信度最大的类别。4.IOU小于thresh的框保留下来。将中心点坐标转换为左上角右下角坐标。2.计算相交面积（相交、不相交）3.分别对每个类别进行过滤。
yolov8 onnx 添加后处理和nms
01-02
YOLOv8是目标检测领域中一种非常流行的算法模型，它通过骨干网络和多个检测头来检测图像中的目标物体。在将YOLOv8模型转换为ONNX格式后，我们可以将后处理和NMS（非极大值抑制）添加到模型中。 后处理是指在模型的输出上进行额外的处理，以过滤和解码检测结果。常见的后处理步骤包括将预测边界框的坐标从相对位置转换为绝对位置，使用阈值筛选出概率较高的目标框，计算目标框中心的偏移量等。 NMS是一种经典的技术，用于解决目标检测中的重叠框问题。它通过计算不同框之间的IoU（交并比）来评估它们的重叠程度，然后选择概率最高的框作为最终的检测结果，并删除与该框重叠较高的其他框。 将后处理和NMS添加到YOLOv8的ONNX模型中，我们可以使用常见的深度学习框架，如TensorFlow或PyTorch。这样，我们可以通过将后处理和NMS的逻辑编写为网络的一部分，并将其与模型的输出进行集成来实现。运行模型时，输入图像将经过前向传播，然后对输出进行后处理和NMS，最终得到我们所需的目标检测结果。 在此过程中，可以使用一些优化技术，如并行计算和GPU加速，以提高模型的计算性能和速度。通过合理设计后处理和NMS算法的逻辑，我们可以确保模型具有良好的准确性和鲁棒性，能够准确地检测和定位图像中的目标物体。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI视觉网奇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值