yolov5模型转TensorRT踩坑记录

最新推荐文章于 2025-02-10 10:07:27 发布

stupid_miao

最新推荐文章于 2025-02-10 10:07:27 发布

阅读量4.2k

点赞数 7

分类专栏：学习记录

本文链接：https://blog.csdn.net/qq_32768679/article/details/113178244

版权

按照 https://codechina.csdn.net/mirrors/enazoe/yolo-tensorrt?utm_source=csdn_github_accelerator 转换遇到的问题记录。

问题1

找不到tensorRT，报错找不到 NvInfer.h
解决：
如果tensorRT为下载解压安装的，需要修改CMakeLists.txt：

# tensorrt
include_directories(/home/jiang/TensorRT-7.0.0.11/include)
link_directories(/home/jiang/TensorRT-7.0.0.11/lib)

问题2

报错：

/home/jiang/TensorRT-7.0.0.11/include/NvInfer.h:3290:22: note: declared here
 class TRT_DEPRECATED IPluginLayer : public ILayer
                      ^~~~~~~~~~~~
[100%

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

stupid_miao

关注关注

7
点赞
踩
18

收藏

觉得还不错? 一键收藏
11
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

yolov8实战第六天——yolov8 TensorRT C++ 部署——（踩坑，平坑，保姆教程）

qq_34717531的博客

01-17

1万+

TensorRT 通过优化深度学习模型来提高推理速度，减少延迟。这对于实时处理应用（如视频分析、机器人导航等）至关重要。：TensorRT 优化了模型以在GPU上高效运行，这意味着更低的内存占用和更高的吞吐量。对于资源受限的环境或在多任务并行处理的情况下，这是一个显著优势。：C++ 是一种跨平台语言，配合 TensorRT，可以在多种硬件和操作系统上部署深度学习模型，包括嵌入式设备和服务器。：TensorRT 提供了精确的数学和统计方法来减少浮点运算误差，这对于确保深度学习应用的准确性和稳定性至关重要。

YOLOV7转NCNN踩坑记录

ORANGE_TIGER的博客

09-20

674

建议使用官方预训练权重作为基点，例如，训练一个YOLOv7-tiny的算法，先将模型参数--cfg空置，选定官方提供的yolov7-tiny.pt权重文件作为基线，防止后续运行报错。训练完成后使用项目自带的export.py将训练得到的best.pt转化为.onxx文件，其它参数与训练时保持一致。完成转换后需针对XXX.param文件末尾的三个Reshape层进行修改，将参数改为0=-1。以YOLOv7为例，在训练开始之前，请设置好训练参数。修改完毕后既可以使用。

11 条评论您还未登录，请先登录后发表或查看评论

tensorrtx/yolov5下的make遇到warning

weixin_45915545的博客

03-04

626

对应解决方案：Warning: overloaded virtual function “Base::process” is only partially overridden in class “derived” 进行记录：在相应class中，添加代码：（以第一个warning为例） using cv::detail::PlaneWarper::buildMaps ...

【目标检测】YOLOv5推理加速实验：TensorRT加速

兴趣使然的创作者

04-10

5579

siu

性能飞跃！TensorRT-YOLO灵活易用的 YOLO 部署工具

最新发布

datayx的文章

02-10

向AI转型的程序员都关注公众号机器学习AI算法工程一、核心升级亮点速览????多Context共享引擎：高效推理，最大化硬件资源利用率TensorRT-YOLO 6.0 引入了创新的多Context共享引擎机制，允许多个线程共享同一个Engine进行推理，最大化硬件资源利用率，同时显著降低内存占用。这一设计使得多任务并发推理更加高效，尤其适合需要同时处理多路视频流或大规模数据推理的场景。核心优势：权...

Ubuntu系统下yolov5转换tensorrt

python_Ezreal的博客

05-19

1128

yolov5转换tensorrt，转换过程不算太难，但是配环境差点要了老命，整整一个月左右才弄好，踩尽了坑。一.cuda的安装首先系统需要安装cuda，如果系统已经安装了cuda就跳过这一步就好了。 cuda的下载地址： https://developer.nvidia.com/cuda-toolkit-archivehttps://developer.nvidia.com/cuda-toolkit-archive 下载之前需要注册一下，填一下调查问卷。后面的安装也都是需要你有账户登录的，所以

yolov5 Tensorrtx int 8 量化问题记录

weixin_44312422的博客

10-09

2074

terminate called after throwing an instance of ‘std::out_of_range’ what(): _Map_base::atvoid APIToModel(unsigned int, nvinfer1::IHostMemory**, bool&, float&, float&, std::__cxx11::string&): Assertion `engine != nullptr’ failed.

Yolov5训练自己的数据集+TensorRT加速+Qt部署

Uaena_violet的博客

08-29

1万+

本文在Pycharm中利用Yolov5网络训练自己的目标检测分类模型，并将训练好的模型通过TensorRT进行加速，生成.engine文件。再将模型在VS中封装成.dll文件，最后在Qt中调用该文件实现Qt界面上的部署。

YOLOv8目标检测TensorRT加速

yxk666的博客

04-22

2044

YOLOv8的TensorRT加速，模型导出和接口开发，接口调用。本博客仅当学习使用，切勿商用，谢谢！！！

【干货】用tensorRT加速yolov5全记录，包含加速前后的数据对比

热门推荐

Activewaste

11-25

1万+

TensorRT 实现模型yolov5的加速，附自己测的数据对比安装tensorRT首先了解自己ubuntu、CUDA和cuDNN版本安装TensorRT可能出现的问题：使用tensorRT加速LeNet进行验证tensorRT加速yolov5加速前后效果对比安装tensorRT 前言：这里仅记录博主自己用tar安装tyensorRT的流程，对于DEV版本等的安装，请移步其他博客。使用tar安装是博主认为相对比较简单的方式了，要注意的是解压版的tar需要我们手动去修改lib的路径，如果是使用安装版的，就不

error while loading shared libraries: libnvinfer.so.8: cannot open shared object fil

qq_46111138的博客

07-12

5626

报错error while loading shared libraries: libnvinfer.so.8: cannot open shared object file: No such file or directory…参考：https://zhuanlan.zhihu.com/p/618174145?执行./sample_mnist。

pytorchx和tensorrtx编译tensorrt模型的一些bug问题

m0_60827485的博客

04-28

1394

tensorrtx的相关路径错误。

Jetson Xavier NX + yolov5 + tensorRT踩坑记录

m0_56574449的博客

08-24

3824

jetson部署yolov5踩坑记录

YOLOv5-v3.1，推理环境配置、Tensorrt加速一步到位（各种问题总结，吐血整理）

knowledge112233的博客

08-11

2901

yolov5-v.3.1 模型推理加速

error while loading shared libraries: libnvrtc.so.11.2: cannot open shared object file: No such|报错简记

专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化

07-14

1万+

OSError: libcublas.so.11: cannot open shared object file: No such file or directory 遇到报错：执行代码 ./yolov5 -s yolov5s.wts yolov5s.engine s 遇到报错如下 ./yolov5: error while loading shared libraries: libnvrtc.so.11.2: cannot open shared object file: No suc

Win10 yolov5 6.0版本使用tensorrtx部署tensorRT

m0_37660632的博客

11-08

5733

一、环境搭建 VS2017+CUDA10.0+CUDNN7.6.5+opencv3.4(不要高于4.0) 1、查看cuda版本 nvcc -V，我的是10.0 2、查看cudnn版本 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include，到CUDA的include目录下找到cudnn.h，打开后下图即是版本，我的是7.6.5 3、下载Opencv3.4 OpenCV 3.4 - OpenCVhttps://ope.

yolov5模型转换为TensorRT模型时报错Your ONNX model has been generated with INT64 weights

liguiyuan的博客

03-14

4145

因为我们的onnx模型参数类型是INT64, 然后TensorRT是不支持 INT64的。这就需要我们先把ONNX模型的精度降到 INT32，然后再进行转换为 TensorRT模型。

部署：针对yolov5网络输出的结果，对数据做后处理以输出目标检测结果

qq_42835363的博客

02-14

3729

onnx yolov5

08-18

Yolov5是一个目标检测算法，通常用于物体检测任务。关于将Yolov5的训练得到的pt模型转换为onnx模型的过程，可以参考以下步骤： 1. 首先，确保你已经安装了相关的Python库。在使用Yolov5时，我们需要安装onnx和torch库。 2. 然后，使用Yolov5提供的export.py文件来导出onnx模型。你可以通过指定参数选择待转换的权重文件和导出格式。生成的.onnx模型文件将保存在与原权重文件相同的目录下。 3. 在导出onnx模型之前，确保你已经训练好了Yolov5模型，并且获取到了.pt格式的权重文件。 4. 执行导出命令时，可以使用以下指令： ``` python export.py --weights <path-to-weights-file> --img <input-image-size> --batch <batch-size> --include onnx ``` 其中，<path-to-weights-file>是指训练得到的.pt格式的权重文件的路径，<input-image-size>是输入图像的尺寸，<batch-size>是批处理大小。 5. 执行完命令后，导出的.onnx模型文件将保存在与原权重文件相同的目录下。你可以使用这个.onnx文件进行后续的模型部署和应用。综上所述，通过以上步骤，你可以将Yolov5的训练得到的pt模型转换为onnx模型，用于物体检测任务的部署和应用。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* *3* [yolov5(v7.0版本)部署为onnx，openvino，TensorRT等模型并运行，踩坑分享(202303版，包含TensorRT安装)](https://blog.csdn.net/qq_42160143/article/details/129837613)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]