【TensorRT】yolov5的pytorch模型转tensorrt模型（自己的数据集与模型）

已于 2022-08-20 21:41:03 修改
阅读量2.3k 收藏 17
点赞数 2
分类专栏： # TensorRT 目标检测 深度学习框架 文章标签： TensorRT
于 2021-04-12 22:01:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35975447/article/details/115527727
版权
本文档介绍了如何将自己训练的yolov5 pytorch模型转换为TensorRT模型，并通过Python和C++接口进行验证。首先，介绍了环境配置，包括TensorRT的安装。接着，详细阐述了模型转换步骤，包括生成.wts文件和转换为.engine文件。之后，通过Python接口进行推理验证，并成功检测到图像。最后，展示了如何使用C++接口进行模型验证。
摘要由CSDN通过智能技术生成

代码参考：

https://github.com/wang-xinyu/tensorrtx

https://github.com/ultralytics/yolov5

目录

1.环境

2.安装TensorRT

3.pytorch转换TensorRT

4.TensorRT python接口验证

5.验证c++接口

1.环境

yolov5环境配置参考：【目标跟踪】Yolov5_DeepSort_Pytorch复现_wait a minute～的博客-CSDN博客

# yolov5 environment

ubuntu16.04
cuda10.1
cudnn7
python3.6
 
 
Cython
matplotlib>=3.2.2
numpy>=1.18.5
opencv-python>=4.1.2
Pillow
PyYAML>=5.3
scipy>=1.4.1
tensorboard>=2.2
torch>=1.7.0
torchvision>=0.8.1
tqdm>=4.41.0
seaborn>=0.11.0
easydict



# tensorrt envir
了解本专栏 订阅专栏 解锁全文 超级会员免费看
wait a minutes
关注
  • 2
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
专栏目录
订阅专栏
win10_yolov5_tensorRT
03-30
1，安装环境 CUDA10.2 张量RT7.2 OpenCV3.4（工程中已指定，不需安装） vs2015下载相关工程： : 2，生成yolov5s.wts文件 在生成yolov5s.wts前，首先需要模型。同时，需要我们安装环境。这里可以参考网上其他文章或github教程进行配置安装，这里不详加说明。 将tensorrtx-master\yolov5文件夹下的gen_wts.py拷贝到ultralytics/yolov5文件夹下 在当前目录下执行： python gen_wts.py 最终我们会在当前目录下得到一个yolov5s.wts文件。 3，vs2015环境建设 这里我们使用别人已经编好的库，下载连接： 。（注意：部分头文件，lib文件已在我之后的工程中命名，有需要的同学可以直接下载） 创建vs工程，命名为yolov5_Trt，重新连接tensorrtx-master
yolov5训练visdrone数据集
05-09
总之，使用YOLOv5训练VisDrone数据集涉及数据预处理、模型配置、训练、验证和部署等多个环节，整个过程需要深入理解YOLOv5的架构和VisDrone数据集的特点，以便优化模型性能并满足具体应用场景的需求。在实际操作中，...
win10环境，yolov5转tensorrt模型
lhbing2021的博客
05-05 392
cuda_11.2.2_461.33_win10.exe/TensorRT-7.2.3.4.Windows10.x86_64.cuda-11.1.cudnn8.1/cudnn-11.2-windows-x64-v8.1.1.33安装完cuda11.2 cudnn tensorrt后，将nvrtc64_111_0.dll nvrtc_builtins64_111_0.dl拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin 目录下。
还在为模型加速推理发愁吗？不如看看这篇吧。手把手教你把pytorch模型转化为TensorRT，加速推理
最新发布
2401_84139610的博客
05-14 917
现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习摘要最近，学习了一些模型转化和加速推理的知识，本文是对学习成果的总结。
Ubuntu系统下yolov5转换tensorrt
python_Ezreal的博客
05-19 999
yolov5转换tensorrt，转换过程不算太难，但是配环境差点要了老命，整整一个月左右才弄好，踩尽了坑。 一.cuda的安装 首先系统需要安装cuda，如果系统已经安装了cuda就跳过这一步就好了。 cuda的下载地址： https://developer.nvidia.com/cuda-toolkit-archivehttps://developer.nvidia.com/cuda-toolkit-archive 下载之前需要注册一下，填一下调查问卷。后面的安装也都是需要你有账户登录的，所以
yolov5 PyTorch模型转TensorRT
热门推荐
linghu8812的博客
10-27 1万+
文章目录yolov5 PyTorch模型转TensorRT1. github开源代码2. PyTorch模型转ONNX模型3. ONNX模型转TensorRT模型3.1 概述3.2 编译3.3 运行4. 推理结果 yolov5 PyTorch模型转TensorRT 1. github开源代码 yolov5 TensorRT推理的开源代码位置在https://github.com/linghu8812/onnx_trt_deploy/tree/master/yolov5，PyTorch转onnx的代码见从原作
干货 | YOLOV5 训练自动驾驶数据集，并转成tensorrt【左侧有码】
10-10 4042
准备数据集 环境配置 配置文件修改 训练 推理 转Tensorrt 遇到的Bugs 一、数据集准备 1，BDD数据集 让我们来看看BDD100K数据集的概览。 BDD100K是最大的开放式驾驶视频数据集之一，其中包含10万个视频和10个任务，目的是方便评估自动驾驶图像识别算法的的进展。每个高分辨率视频一共40秒。该数据集包括超过1000个小时的驾驶数据，总共超过1亿帧。这些视频带有GPU / IMU数据以获取轨迹信息。该数据集具有地理，环境和天气多样性，从而能让模型能...
yolov5模型 转 tensorRT
MAX的专栏
06-01 850
yolov5模型转TensorRT踩坑记
基于python的tensorrt int8 量化yolov5 onnx模型实现
03-26
本教程将详细介绍如何使用Python和TensorRT对YOLOv5 ONNX模型进行INT8量化，以提升其在实际应用中的性能。 首先，我们需要了解YOLOv5和ONNX。YOLOv5是一种流行的实时目标检测模型，基于Yolo（You Only Look Once）...
YOLOV5火灾检测数据集+代码+模型.zip
05-21
YOLOV5火灾检测数据集+代码+模型，提供处理voc数据集的常用脚本，以及pytorch转换tensorrt的转换脚本。提供安全帽检测、行人入侵检测、火灾烟雾检测等等模型。YOLOV5火灾检测数据集+代码+模型，提供处理voc数据集的...
目标检测-使用Yolov4+Pytorch训练自己的数据集-超详细流程教程-优质项目实战.zip
02-19
在本教程中，我们将深入探讨如何使用Yolov4和PyTorch框架进行目标检测，并训练自定义的数据集。目标检测是计算机视觉领域的一个关键任务，它涉及识别图像中的特定对象并定位它们的位置。Yolov4是一种高效、准确的...
YOLOv7官网下载好的训练模型集合.rar
08-19
如果这些预训练模型不能满足特定需求，用户还可以根据自己的数据集进行微调或进一步训练，以适应特定领域或特定类别的目标检测。 总的来说，这个压缩包提供了一套完整的YOLOv7预训练模型集合，对于研究者和开发者...
yolov5转tensorrt模型
JulyLi2019的博客
08-20 5951
系列文章目录 文章目录系列文章目录前言一、生成.wts文件1.1 下载源码与模型1.2 生成yolov5s.wts文件二、build and run2.1 build2.2 run总结 前言 部署时，为了提高推理效率，通常不直接使用训练生成的pt模型，而是把pt模型转换成可以通过tensorrt加速推理的engin文件。 一、生成.wts文件 1.1 下载源码与模型 本文以yolov5s v5.0版本为例，给同学们做演示。 下载源码，可以使用git，当然也可以下载压缩包解压，本文使用git方法： g
Yolov5的tensorRT加速(python)
Mintary的博客
09-04 1268
Yolov5的tensorRT加速
Yolo V5 转tensorrt
01-25 6548
一、 在转tensorrt之前，请先确认你下载的yolo v5的版本及对应权重： 在官方地址： https://github.com/ultralytics/yolov5 中有个master下有个Tags，选择v6.0版本 2. 点击v6.0后下面给出这个版本的代码以及权重，去下面找它的权重 点击里面yolo v5s 或者yolo v5l 后进入新的页面，在下面有个assets中选择对应的版本，下载即可。这是它是按照对应版本进行下载的。就是v6.0版本的yolo v5代码对应...
YOLOv5转TensorRt加速部署全过程
weixin_44312422的博客
01-26 3072
本文是在jetson nano 运行yolov5转tensort加速的记录 接上文： https://blog.csdn.net/weixin_44312422/article/details/122256752?spm=1001.2014.3001.5502 （本文出现的yolov5均不指YOLOv5源码，是指tensorrtx中专属的YOLOv5加速代码,注意不要与YOLOv5源代码混淆） 1.第一步 下载对应版本yolov5的权重文件，以yolov5s为例（其实可以用yolov5n速度更快）：本步可以
jetson nano上部署Yolov5转Tensorrt
qq_52584391的博客
10-23 707
jetson nano上面部署yolov5转tensorrt
YOLOv5_Tensorrt模型转换
weixin_42064949的博客
11-17 202
参考tensorrtx/yolov5 at master · wang-xinyu/tensorrtx · GitHub 可能master可能有问题
yolov5 torch转tensorrt详解【推荐】
Teng的博客
02-05 1137
def export_engine(model, im, file, half, dynamic, simplify, workspace=4, verbose=False, prefix=colorstr('TensorRT:')): # YOLOv5 TensorRT export https://developer.nvidia.com/tensorrt assert im.device.type != 'cpu', 'export running on CPU but must be
yolov5 PyTorch模型转TensorRT精度提升
05-20
将 PyTorch 模型转换为 TensorRT 模型可以提高推理速度和减少内存占用，但是在转换过程中可能会出现精度损失的问题。为了解决这个问题，可以尝试以下几个方法： 1. 使用更高的精度：在转换过程中，可以使用更高的精度来保留更多的模型信息，从而减少精度损失。例如，可以将 FP32 模型转换为 FP16 模型，或者使用 INT8 精度进行量化。 2. 调整转换参数：在转换过程中，可以调整一些转换参数来减少精度损失。例如，可以调整最大误差限制或者调整权重量化参数。 3. 后处理技术：在推理过程中，可以使用一些后处理技术来减少精度损失。例如，可以使用动态量化技术来调整权重和激活函数的精度，从而减少精度损失。 4. Fine-tune：在转换后的 TensorRT 模型上进行 Fine-tune 可以提高模型的精度。可以使用一些数据增强技术来扩充数据集，从而提高模型的泛化能力。 综上所述，将 PyTorch 模型转换为 TensorRT 模型可以提高推理速度和减少内存占用，但是需要注意精度损失的问题。可以使用以上方法来尽可能地减少精度损失。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wait a minutes

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值