YOLOX Window10 TensorRT 全面部署教程

已于 2023-11-30 14:03:10 修改
阅读量4.4k 收藏 39
点赞数 4
分类专栏： 部署环节tensorrt yolox 文章标签： 深度学习 pytorch ubuntu
于 2021-10-28 17:53:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34809969/article/details/121012426
版权
这篇博客详述了在Windows10环境下使用YOLOX进行TensorRT部署的全过程，包括训练模型、安装torch2trt、模型转换、编译Demo及C++程序部署。遇到的make问题未解决，直接跳过Ubuntu部署，转而在Windows10上完成TensorRT应用。文章提供了一步一步的配置和操作指导，适合熟悉CUDA和TensorRT的开发者参考。
摘要由CSDN通过智能技术生成

YOLOX Window10 TensorRT 全面部署教程

配置流程

官网这部分写的非常笼统，我把完整教程分享给大家。
环境：
window10+GTX1650+TensorRT-7.2.3.4-CUDA11.1
yolox程序在ubuntu上，所以部分内容是ubuntu上操作
其他环境不保证

训练自己的模型

训练部分请参照官网流程进行训练，或者直接使用官方提供的几个模型也可。得到.pth文件。例如这里我的是：best_ckpt.pth
在这里插入图片描述

安装torch2trt

yolox官网这里真的懒，就给了个链接，好在之前我用过，自己的环境中也有这个模块。下面来说说这个模块。
首先还是要先进入到这个git地址：https://github.com/NVIDIA-AI-IOT/torch2trt
注意注意，他的安装教程可没有写在最前面，最前面是一些功能的简单的介绍，吹一下他这个工具多好用，然后支持多少多少模型等等，我们直接跳过去，看setup部分。
在这里插入图片描述
安装之前要确保自己的环境中已经安装了tensorrt，这些之前我都装过ÿ

最低0.47元/天 解锁文章
夜夜夜Best
关注
  • 4
    点赞
  • 踩
  • 39
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 8
    评论
专栏目录
使用TensorRT加速YOLOX目标检测算法
wyt的博客
11-15 632
这篇文章主要讲述如何通过tensorrt对yolox进行部署
TensorRT部署YoloX
weixin_45156863的博客
10-06 320
使用TensorRT部署修改过的YoloX
TensorRT~部署
最新发布
weixin_42306002的博客
08-03 25
把整体进行框架性的封装, 最后实现下面的使用方法登录后复制 // 创建一个worker的实例, 在创建的时候就完成初始化 auto worker = thread::create_worker(onnxPath, level, params); // 根据worker中的task类型进行推理 worker->...
yoloX模型部署-tensorrt配置
weixin_43745234的博客
08-04 903
首先,前往官网下载TensorRT（https://developer.nvidia.com/nvidia-tensorrt-8x-download），这一步需要注册为英伟达开发者用户，登录后会出现不同版本的tensorrt资源，下载与自己的的cuda版本对应的tensorrt，下载后解压。......
win10部署TensorRT保姆级教程，耗时两天两夜惨痛的经验
向往有那么一天梦幻的步态识别落地，开花❀！
08-11 1218
【TensorRT】Win10系统python/c++安装tensorrt库
TensorRT部署
weixin_48477590的博客
04-07 432
前段时间用 TensorRT 部署了一套模型，速度相比 Python 实现的版本快了 20 多倍，中间踩了许多坑，但是最后发现流程其实相当简单，特此记录一下踩坑过程。顺便推荐一下深蓝学院的CUDA课程，如果想深入了解CUDA和TensorRT相关知识和运用的朋友可以关注一下。
YOLOv10部署教程，使用tensorRT部署，有转化和推理代码
qq_44224801的博客
07-11 1279
YOLOv10部署教程，使用tensorRT部署，有转化和推理代码
mmdetection yolox-s TensorRT模型2060/2060s显卡可用
08-12
总之，通过MMDetection和TensorRT的结合，我们可以将YOLOX-S模型高效地部署到RTX 2060/2060s显卡上，实现高速的目标检测。这不仅有助于提升系统的响应速度，还能保证在复杂环境中稳定可靠的工作，为各类计算机视觉...
算法部署-基于TensorRT+INT8量化加速的YOLOX目标检测算法的部署+项目源码-优质项目分享.zip
05-09
总结，这个项目提供了一个实践性的教程，指导开发者如何将YOLOX目标检测算法利用TensorRT进行INT8量化加速，以优化模型性能，提升实时推理的效率。通过学习和应用这个项目，不仅可以加深对YOLOX和TensorRT的理解，还...
yolov8系列--AI自瞄项目，支持yolov5,yolov7,yolov8,yolox ，使用tensorrt和.zip
02-24
标题中的“yolov8系列”...为了充分利用这个项目，用户需要了解YOLO目标检测算法、Python编程、深度学习框架如PyTorch，以及如何使用TensorRT进行模型部署。同时，对于游戏开发和AI在游戏中的应用也需要有一定的理解。
算法部署-使用TensorRT+ONNX部署BoT-SORT+YOLOX目标跟踪算法-优质算法部署项目实战.zip
03-06
在本项目实战中，我们将探讨如何使用TensorRT和ONNX来部署BoT-SORT与YOLOX目标跟踪算法。这是一个高效、高质量的算法部署实践，旨在优化计算机视觉应用的性能和速度。 首先，让我们深入了解每个关键组件： 1. **...
windows安装TensorRT
cyh20182808的博客
05-15 237
将lib文件夹下的lib文件，复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib\x64下。然后将lib文件夹下的dll文件，复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin下。在annaconda中进入该文件夹，安装对应的whl文件，例如​​​​​​​​​​​​​​。然后安装4个whl文件，如下图，要对应自己的python版本，我的是3.8。
ubuntu下yolox tensorrt模型部署
整理ing
10-16 1534
ubuntu下yolox tensorrt模型部署
tensorRT 模型部署
cindywry的博客
06-20 1855
一般来说，推理过程中，权重值的数量远小于激活值，仅仅对权重执行量化的方法能带来的压缩力度和加速效果都一般。浮点数=量化缩放scale 因子 *量化定点数， 量化的过程就是得到一个最优的scale（实数和整数的对应关系）和zero point (表示实数中的0经过量化后的对应整数)去取代浮点数， 这个任务就落到了怎么去选最优的量化阈，量化阈就是上面说的阈值 当S取大时，可以扩大量化域，但同时，单个INT8数值可表示的FP32范围也变广了，因此INT8数值与FP32数值的误差（量化误差）会增大；
TensorRT（C++）部署 Pytorch模型
女神sha手的博客
11-28 4455
众所周知，python训练pytorch模型得到.pt模型。但在实际项目应用中，特别是嵌入式端部署时，受限于语言、硬件算力等因素，往往需要优化部署，而tensorRT是最常用的一种方式。本文以yolov5的部署为例，说明模型部署在x86架构上的电脑端的流程。（部署在Arm架构的嵌入式端的流程类似）。
Win10系统下 Tensorrt C++部署yolov5
m0_67388791的博客
02-23 1914
Win10系统下 Tensorrt C++部署yolov5，实现模型的快速推理
NVIDA-TensorRT部署（一）
Alkaid2000的博客
07-20 4463
TensorRT是一个高性能的深度学习推理(Inference)优化器，可以为深度学习应用提供低延迟、高吞吐率的部署推理。TensorRT可用于超大规模数据中心、嵌入式平台或自动驾驶平台进行推理加速。TensorRT现已能支持TensorFlow、Caffe、Mxnet、Pytorch等几乎所有的深度学习框架，将TensorRT和NVIDA的GPU结合起来，能在几乎所有的框架种进行快速和高效的部署推理。.........
Tensorrt部署(未完待续)
从心_的博客
11-19 579
tensorrt c++部署
yolox tensorrt推理
12-11
YOLOX TensorRT推理是一种将YOLOX模型以TensorRT的方式进行推理的方法。 YOLOX是一种高效且实时的目标检测算法，结合了YOLO系列的优点，并在训练速度和检测精度上进行了改进。而TensorRT是NVIDIA推出的深度学习推理...
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

夜夜夜Best

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值