解决yolo使用engine模型推理报错AttributeError: “NoneType’cbject has no attribute ‘create_execution_context‘

于 2024-07-28 22:27:23 发布
阅读量229 收藏 3
点赞数 10
文章标签： YOLO python 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_57018478/article/details/140756609
版权

目录

起因

分析

两种解决方案

方法一：卸载生产服务器的tensorrt，下载与训练服务器相同版本

方法二：将训练服务器训练的pt模型下载出来到生产服务器导出

起因

在做yolo模型训练时使用了训练服务器，训练结束把模型转换成了.engine模型，在训练服务器上可以正常使用，但把模型放到生成服务器就报错

红色框为报错行，后经过调试发现511行model的值居然是None

分析

因为在训练服务器是可以正常运行，首先就排除了模型缺失的情况，再则检查模型路径也无误        

那么就可能是虚拟环境中必要的依赖和软件包不兼容问题

检查发现训练服务器tensorrt版本为10.2.0

而生产服务器tensorrt版本为8.5.3.1

版本确实不同

两种解决方案

方法一：卸载生产服务器的tensorrt，下载与训练服务器相同版本

pip uninstall tensorrt

前往官网下载与训练服务器版本相同的tensorrt（链接）

需要注册登录才能下载

具体如下图：

解压后打开

再打开自己cuda安装的路径

默认路径为C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vXX.X

将bin文件夹中全部文件复制到CUDA对应bin里面

将include文件夹中全部文件复制到CUDA对应的include里面

将lib文件夹中的.lib文件复制到CUDA对应lib/x64里面

将lib文件夹中的.dll文件复制到CUDA对应bin里面

之后点击打开解压文件夹中的python文件夹，选择三个与自己python版本相同的直接pip安装即可

tensorrt10.0以下的分别点击graphsurgeon、onnx_graphsurgeon、uff安装

方法二：将训练服务器训练的pt模型下载出来到生产服务器导出

half代表使用半精度导出

python export.py --weights XXX.pt --include engine --half --device 0

睡觉想姗姗.
关注
  • 10
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
AttributeError: ‘NoneType’ object has no attribute ‘create_execution_context’
m0_59249795的博客
04-16 1万+
在使用tensorrt推理时 import pycuda.autoinit import numpy as np import pycuda.driver as cuda import tensorrt as trt import torch import os import time from PIL import Image import cv2 import torchvision filename = 'test.jpg' max_batch_size = 1 onnx_model_path =
成功解决AttributeError: 'list' object has no attribute 'shape'
热门推荐
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
05-07 11万+
成功解决AttributeError: 'list' object has no attribute 'shape' 目录 解决问题 解决思路 解决方法 解决问题 AttributeError: 'list' object has no attribute 'shape' 解决思路 属性错误：“list”对象没有属性“sh...
【YOLOv5】使用yolov5训练模型时报错合集
这个函数可导的博客
04-18 1701
这篇文章用来记录在使用yolov5训练模型时报错处理，持续更新······ 2024/4/18 【问题一】VsCode终端无法进入Anaconda创建的虚拟环境 【问题二】怎么在VsCode中为项目配置Anaconda创建的虚拟环境 【问题三】RuntimeError: result type Float can't be cast to the desired output type __int64 【问题四】AttributeError: 'FreeTypeFont' object has no att
学习神经网络tensorflow常见问题笔记
qq_45213223的博客
08-07 4083
pip install tensorflow 警告： WARNING: You are using pip version 20.2.3; however, version 21.1.2 is available. You should consider upgrading via the ‘d:\lenovosoftstore\install\python1\python.exe -m pip install --upgrade pip’ command. easy_install -U pip p
ubuntu18.04 yolov5 tensorrt部署
weixin_45866058的博客
08-29 2517
ubuntu18.04 yolov5 tensorrt部署
将YOLOv8模型从PyTorch的.pt格式转换为TensorRT的.engine格式
最新发布
网络资源是无限的
07-25 1418
将YOLOv8模型从PyTorch的.pt格式转换为TensorRT的.engine格式
TensorRT实现yolov5推理加速（二）
IT菜鸟
09-22 2568
一、参考资料 yolov5_tensorrt_int8 tensorrtx [TensorRT int8 量化部署 yolov5s 5.0 模型](https://www.cnblogs.com/KdeS/p/15119831.html) Tensorrt环境安装及yolov5模型转换以及量化部署INT8 二、重要说明 github源码: tensorrtx 三、可能出现的问题 dnn未安装 /home/yichao/MyDocuments/tensorrtx/yolov5/calibrator.c
【吴恩达深度学习编程作业问题汇总】4.3目标检测——车辆识别
打瞌睡_的博客
11-22 2627
问题描述 最近在学习吴恩达深度学习系列课程，做到编程作业4.3车辆识别时因为TensorFlow和Keras版本不兼容而出现各种问题，查找了一些资料后好多人都提出降低TF版本，不放弃我最后的倔强，最终还是把所有问题逐一解决了：） 查看Python、TensorFlow、Keras版本：我的Python版本3.7.0，TensorFlow版本2.3.1，Keras版本2.4.3。 import sys import tensorflow as tf import keras print(sys.version
python123计算正多边形面积_【吴恩达深度学习编程作业问题汇总】4.3目标检测——车辆识别...
weixin_30423065的博客
02-09 447
问题描述最近在学习吴恩达深度学习系列课程，做到编程作业4.3车辆识别时因为TensorFlow和Keras版本不兼容而出现各种问题，查找了一些资料后好多人都提出降低TF版本，不放弃我最后的倔强，最终还是把所有问题逐一解决了：)查看Python、TensorFlow、Keras版本：我的Python版本3.7.0，TensorFlow版本2.3.1，Keras版本2.4.3。import sysim...
yolov5.7 车辆检测资料自用+pycharm环境问题
weixin_52034829的博客
04-30 294
版本：yolov5.7
解决yolov3_object_tracking中loop of ufunc does not support argument 0 of type Tensor which has问题
01-21
TypeError: loop of ufunc does not support argument 0 of type Tensor which has no callable arctan method 报错行 self.u = np.round(np.dot(self.F, self.u)) ＃或者 self.u = np.round(self.u + np.dot(K, ...
解决pytorch报错:AssertionError: Invalid device id的问题
01-21
在服务器上训练的网络放到本地台式机进行infer，结果出现报错： AssertionError: Invalid device id 仔细检查后发现原来服务器有多个GPU，当时开启了两个进行加速运算。 net1 = nn.DataParallel(net1, device_ids=...
keras报错：ValueError: Cannot create group in read only mode
01-20
在使用Keras库进行深度学习模型训练和保存时，可能会遇到“ValueError: Cannot create group in read only mode”这样的错误。这个错误通常发生在尝试加载一个只包含权重而没有模型结构的文件时。Keras提供了两种...
YOLO_V4模型可视化.zip
05-08
使用netron做的可视化。 另外，也可参考本人csdn中有关YOLO_V4的介绍：https://blog.csdn.net/WANGWUSHAN/article/details/116331716。
YOLOv8快速涨点之改进可扩张残差（DWR）注意力模块
qq_53545309的博客
07-23 292
当前许多工作采用多速率深度扩张卷积（multi-rate depth-wise dilated convolutions）来同时从单一输入特征图中捕获多尺度上下文信息，以提高特征提取效率。：这种设计可能导致难以获取多尺度上下文信息，因为其结构和超参数设置不合理。：为了降低获取多尺度上下文信息的难度，提出了一种高效的多尺度特征提取方法，该方法将原始的单步方法分解为“区域残差化”（RegionResidualization）和“语义残差化”（Semantic Residualization）两个步骤。
YOLO训练过程日志，数值都小于1原因？
weixin_52236586的博客
07-24 374
在YOLO等目标检测模型中，总损失是多个损失项的组合。通常，总损失会进行归一化以平衡各个损失项的影响。这种组合的归一化处理通常会使总损失值较小，但它提供了一个有效的衡量标准来评估模型的整体性能。总之，损失值小于1是正常的，归一化处理是为了确保训练过程中的稳定性和有效性。关注损失值的变化趋势比关注绝对值更为重要，这样可以更好地了解模型的训练情况。如果你的YOLOv5训练日志显示损失值如。
【保姆级教程】跑通YOLOv8-multi-task多任务模型
m0_51579041的博客
07-23 414
【保姆级教程】跑通YOLOv8-multi-task多任务模型
yolov5的分布式训练问题
qq_40622955的博客
07-25 386
RuntimeError: Default process group has not been initialized, please make sure to call init_process_group
yolo报错AttributeError: 'NoneType' object has no attribute '_free_weak_ref'
06-08
这个错误通常是由于内存泄漏导致的。在YOLO的实现中，有些对象可能没有被正确地释放，从而导致内存泄漏。解决这个问题的方法是使用Python的垃圾回收机制或手动释放对象以释放内存。以下是一些可能有用的解决方法： 1. 在适当的时候手动释放对象，例如使用del语句或调用对象的__del__()方法。 2. 使用Python的垃圾回收机制，例如调用gc.collect()来手动触发垃圾回收。 3. 检查代码中是否有循环引用的问题，这可能会导致内存泄漏。 4. 确认是否有其他的库或代码也在使用相同的内存资源，可能会导致竞争和内存泄漏的问题。 希望这些方法能帮助你解决这个问题。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值