基于yoloV5的.pt模型转换为.engine模型，并通过Deepstream加速，可多相机实时传输，采用nvidia的Xavier板子（精一）

VIP文章 已于 2022-08-02 22:11:10 修改 1666 收藏 3
分类专栏： pytorch深度学习一看就懂系列和自动驾驶相关 文章标签： 深度学习 deepstream pytorch 人工智能 python目标检测
于 2022-07-16 14:49:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/pvmsmfchcs/article/details/125803609
版权

yoloV5的.pt模型转换为.engine加速模型，通过Deepstream加速

一，环境（最新版本的环境）：

deepstream:6.1
jetpack:5.0.1DP，其中自带CUDA11.4
技术路线：．ｐｔ->．ｗｔｓ/．ｃｆｇ->．ｅｎｇｉｎｅ
两个重要项目地址：
１，https://github.com/ultralytics/yolo5；
２，https://github.com/marcoslucianops/DeepStream-Yolo

了解本专栏 订阅专栏 解锁全文
鼾声鼾语
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 4
    评论
专栏目录
yolov5-onnx-tensorrt:如何使用 TensorRT 运行 yolov5 模型
05-29
yolov5-onnx-张量 此 Repos 包含如何使用 TensorRT 运行 yolov5 模型。 Pytorch 实现是 。 将 pytorch 转换为 onnx 和 tensorrt yolov5 模型以在 Jetson AGX Xavier 上运行。 支持推断图像。 支持同时推断多幅图像。 要求 请使用torch>=1.6.0 + onnx==1.8.0 + TensorRT 7.0.0.11 运行代码 代码结构 networks代码是网络demo代码在 Jetson AGX Xavier 上运行 tensorrt 实现 ├── networks ├── utils ├── models ├── demo │ ├── demo.py | ├── demo_batch.py | ├── Processor.py | ├── Processor_Batch.py
yolov5训练后续：pt文件转engine流程
jiusanyoufang的博客
12-02 1798
yolov5训练后续：pt文件转engine流程
【目标检测】YOLOv5推理加速实验：TensorRT加速
兴趣使然的创作者
04-10 1248
siu
2022-10-31如何将自己训练的yolo模型转为tensorrt相关的模型（.trt or .engine）
LJ1120142576的博客
10-31 1097
如何将自己训练的yolo模型转换成.engine模型
deepstream_sdk_v6.0.1_jetson.zip
08-15
DeepStream 6.0.1 for Jetson This release supports Jetson TX1, TX2, Nano, NX and AGX Xavier. Prerequisite: DeepStream SDK 6.0.1 requires the installation of JetPack 4.6.1. 这是tar包
【YoloV5 6.0|6.1 部署 TensorRT到torchserve】环境搭建|模型转换|engine模型部署（详细的packet文件编写方法）
m0_61139217的博客
07-05 3587
QQ: 1757093754注：Yolov5 1~5版本并没有封装完好的TensorRT转换流程，故需要借助其他方法完成模型转换，但是6.0、6.1内置TensorRT的export。tensorrtx下载链接：GitHub - wang-xinyu/tensorrtx: Implementation of popular deep learning networks with TensorRT network definition APIhttps://github.com/......
windows环境下yolov5使用tensorrt加速，生成engine文件
q66666666djjshs的博客
01-17 623
tensorrt加速yolov5，解决TensorRT: export failure: [WinError 127] 找不到指定的程序。
利用python版tensorRT导出engine【以yolov5为例】
z240626191s的博客
10-13 3682
在介绍导出engine过程需要先介绍一下会遇到的相关术语。 1.建立logger:日志记录器 2.建立Builder:网络元数据 用于搭建网络的入口，网络的TRT内部表示以及可执行程序引擎都是由该对象的成员方法生成
[废除, YOLO V5 V6.0 起, 自带 .pt 导出 .engine 功能] TensorRT 加速 YOLO V5 模型的推理
mrathena
10-24 1101
博文目录
deepstream_sdk_5.0_jetson.zip
08-15
DeepStream 5.0 for Jetson This release supports Jetson TX1, TX2, Nano, NX and AGX Xavier. Prerequisite: DeepStream SDK 5.0 requires the installation of JetPack 4.4. 这是tar包
deepstream_sdk_v5.0.1_jetson.zip
08-15
DeepStream 5.0.1 for Jetson This release supports Jetson TX1, TX2, Nano, NX and AGX Xavier. Prerequisite: DeepStream SDK 5.0.1 requires the installation of JetPack 4.4. 则是tar包
deepstream_sdk_v5.1.0_jetson.zip
08-15
DeepStream 5.1 for Jetson This release supports Jetson TX1, TX2, Nano, NX and AGX Xavier. Prerequisite: DeepStream SDK 5.1 requires the installation of JetPack 4.5.1. 这是tar包
Nvidia_Xavier_SoC_datasheet.pdf
11-10
NVIDIA's Xavier SoC chip datasheet, on hotchip 2018
new-deepstream_sdk_v5.1.0_jetson.rar
03-14
适用于Jetson的DeepStream 5.1 此版本支持Jetson TX1，TX2，Nano，NX和AGX Xavier。 先决条件：DeepStream SDK 5.1需要安装JetPack 4.5.1。
tensorrt中采用YOLOv5的pt文件生成engine中遇到问题
LYiiiiiii的博客
10-29 3283
kernel weights has count 32640 but 2304 was expected 其中32640/128=255 255 = （80+5）*3，即80个类，5个预测值，每个尺度用3个anchor 因此可能需要修改yololayer.h文件中把自己数据的类别、anchor等参数
NVIDIA TensorRT （python win10）安装成功分享
Yang_4881002的博客
04-20 8032
TensorRT 下载网址： https://developer.nvidia.com/nvidia-tensorrt-8x-download https://developer.nvidia.com/nvidia-tensorrt-7x-download https://developer.nvidia.com/nvidia-tensorrt-6x-download 主要是 for linux 也有windows 安装参考https://blog.csdn.net/hhhhhhhhhhwwwwwwwww
DeepStream 多路拉取RTSP视频流
J。
03-07 2913
DeepStream 多路拉取rtsp视频流
jetson xavier nx yolov5
最新发布
06-01
### 回答1： Jetson Xavier NX 是 NVIDIA 推出的一款 AI 开发板，搭载了 NVIDIA Xavier 处理器，可用于进行深度学习和计算机视觉任务。而 YOLOv5 是一种基于深度学习的目标检测算法，可用于在图像或视频中实时检测多个目标。 如果您想在 Jetson Xavier NX 上使用 YOLOv5 进行目标检测，可以按照以下步骤进行： 1. 安装 JetPack SDK。JetPack 是 NVIDIA 提供的一个软件开发套件，包含了操作系统、CUDA 工具包、cuDNN 库、TensorRT 库等组件，可以帮助您在 Jetson Xavier NX 上进行深度学习开发。您可以从 NVIDIA 官网下载并安装 JetPack SDK。 2. 下载 YOLOv5 源代码。您可以从 YOLOv5 的 GitHub 仓库下载最新的源代码。下载完成后，将源代码上传至 Jetson Xavier NX 上。 3. 安装依赖项。在 Jetson Xavier NX 上，您需要安装 Python 3、NumPy、PyTorch、OpenCV 等软件包。可以使用 pip 命令进行安装。例如，安装 PyTorch 可以使用以下命令： ``` pip install torch torchvision torchaudio ``` 4. 将 YOLOv5 模型转换为 TensorRT 格式。在 Jetson Xavier NX 上，可以使用 TensorRT 库对模型进行优化，从而提高推理速度。您需要使用 YOLOv5 源代码中提供的脚本将模型转换为 TensorRT 格式。例如，要将 YOLOv5s 模型转换为 TensorRT 格式，可以使用以下命令： ``` python3 models/export.py --weights yolov5s.pt --img 640 --batch 1 ``` 5. 运行目标检测程序。在 Jetson Xavier NX 上，可以使用 YOLOv5 源代码中提供的 detect.py 脚本运行目标检测程序。例如，要在图像中进行目标检测，可以使用以下命令： ``` python3 detect.py --weights yolov5s.torch --img 640 --conf 0.25 --source image.jpg ``` 其中，--weights 参数指定要加载的模型文件，--img 参数指定输入图像的大小，--conf 参数指定目标检测的置信度阈值，--source 参数指定输入图像的文件名。 希望这些步骤对您有所帮助！ ### 回答2： Jetson Xavier NX是NVIDIA最新发布的低功耗高性能AI计算平台，被称为最强大的AI小型电脑，其搭载的芯片组拥有384个张量核心，达到了11TFlops的计算能力。YOLOv5是目前最先进的目标检测算法之一，能够在保持高准确率的同时实现快速的目标识别和定位。那么Jetson Xavier NX和YOLOv5结合有哪些优势呢？ 首先，Jetson Xavier NX的高性能和低功耗使得它非常适合运行YOLOv5算法，因为YOLOv5需要大量的计算资源和内存来进行目标检测和分类，而Jetson Xavier NX能够提供强大的AI计算能力和高速的数据传输，减少了运行YOLOv5算法时的时延。 其次，Jetson Xavier NX还具有较高的多任务处理能力和深度学习推理速度，使得它能够同时运行多个摄像头的视频流进行实时的目标检测和追踪，而不需要降低图像处理的分辨率，从而更好地保持目标检测的准确率和实时性。 此外，Jetson Xavier NX还支持NVIDIA TensorRT和CUDA加速，这两种技术可以将训练好的神经网络的推理速度加速数倍，使得Jetson Xavier NX能够更快地处理复杂的目标检测任务和各种AI场景。 因此，Jetson Xavier NX和YOLOv5的结合可以为安防、自动驾驶、智能交通等领域的应用提供更高效、更准确和更实时的解决方案。 ### 回答3： Jetson Xavier NX是英伟达推出的高性能边缘计算平台，搭载NVIDIA的Volta架构和Tensor Cores，支持AI推理、复杂的计算任务和图形渲染。而Yolov5是一种基于深度学习的目标检测算法。 Jetson Xavier NX搭载着NVIDIA的高效AI处理芯片，能够支持高效的AI推理，使得检测速度非常快，对于复杂的计算任务有着非常优秀的性能表现。而Yolov5则是基于深度学习算法的目标检测算法，相对于传统的算法有着更好的准确度和速度。 结合Jetson Xavier NX和Yolov5，我们可以使用Jetson Xavier NX作为高性能边缘计算平台进行目标检测应用的开发。使用Yolov5算法来进行目标检测，可以在保证准确度的前提下提高检测速度，达到更好的实时性能。 有些应用需要在机器上进行目标检测，但是机器的计算能力始终存在限制，这就需要像Jetson Xavier NX这样的高性能计算平台来支持更好的性能表现。使用Yolov5算法，可以在保证准确率的同时提高检测速度，让机器实现实时检测，以获得更好的应用体验。 总之，Jetson Xavier NX和Yolov5的结合可以在保证准确度的前提下提高目标检测的速度，使得应用具备更好的实时性能，具有非常广泛的应用价值。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

鼾声鼾语

感谢您的支持鼓励！

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额：-- )
扫码支付
扫码支付：¥2
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、C币套餐、付费专栏及课程。

余额充值