DeepStream系列之TLT模型调用

已于 2022-06-10 16:43:01 修改
阅读量5k 收藏 19
点赞数 8
分类专栏： # DeepStream 文章标签： 目标检测 深度学习 人工智能
于 2020-08-05 16:07:50 首次发布
本文为博主原创文章，未经博主允许不得转载。
本文链接：https://blog.csdn.net/zong596568821xp/article/details/107709786
版权
本文档详细介绍了如何在DeepStream中部署使用NVIDIA TLT工具训练的模型，包括环境配置、源码下载、OSS插件安装、模型转换和测试。重点讲解了从etlt模型到engine的转换过程，以及在不同平台上的注意事项。
摘要由CSDN通过智能技术生成

点击查看系列文章目录

0 背景

在《NVIDIA之TLT迁移学习训练自己的数据集》文章中，我们用 NVIDIA 的 TLT 工具对模型进行训练、剪枝，得到一个检测效果较好的模型，接下来如要进行部署应用，在 deepstream 里应用是一个很好的选择。

我们知道，TLT 支持两种方式导出模型：

  1. tlt-export 工具导出 etlt 格式的模型，支持 FP32/FP16/INT8 类型
  2. tlt-converter 工具导出 engine 格式的模型

但第 2 种方法导出的 engine 是平台相关的，如果部署平台与导出平台不一致，模型会不能用，因此我们使用第一种方式导出的tllt模型进行部署

1 环境配置

nvidia 提供了一些示例：

了解本专栏 订阅专栏 解锁全文 超级会员免费看
宗而研之
关注
专栏目录
订阅专栏
DeepStream系列之车牌识别
ZONGXP的博客
03-01 5133
利用 deepstream 构建车牌识别 pipeline，实现实时车辆检测、车牌检测车牌识别功能。
gesture_recognition_tlt_deepstream:一个项目，演示如何训练您自己的手势识别深度学习管道。 我们从预先训练的检测模型开始，使用Transfer Learning Toolkit 3.0将其重新用于手部检测，然后将其与专用手势识别模型一起使用。 经过培训后，我们将使用Deepstream SDK在NVIDIA:registered:Jetson:trade_mark:上部署此模型
03-08
使用NVIDIA预训练模型和Transfer Learning Toolkit 3.0与机器人创建基于手势的交互 在这个项目中，我们演示如何训练您自己的手势识别深度学习管道。 我们从预先训练的检测模型开始，使用Transfer Learning Toolkit 3.0将其重新用于手部检测，然后将其与专用手势识别模型一起使用。 经过培训后，我们将在NVIDIA:registered:Jetson:trade_mark:上部署此模型。 可以将这种手势识别应用程序部署在机器人上以理解人类手势并与人类进行交互。 该演示可以作为点播网络研讨会提供： : 第1部分。训练对象检测网络 1.环境设置 先决条件 Ubuntu 18.04 LTS python> = 3.6.9 <3> = 19.03.5 docker-API 1.40 nvidia-container-toolkit> = 1.3.0-1
Transfer Learning Toolkit (TLT) + DeepStream (DS)快速部署深度学习模型（以口罩检测为例）
leida_wt的博客
01-13 4664
拉取镜像： # TLT docker pull nvcr.io/nvidia/tlt-streamanalytics:v2.0_py3 # DeepStream docker pull nvcr.io/nvidia/deepstream:5.0.1-20.09-base 注册一个NGC账户，并获取一个API Key： API key仅显示一次，请注意保存，如丢失可以重新生成一个。 拉取demo项目github仓库到xxx/tlt-demo文件夹 cd xxx/tlt-demo git clone htt
deepstream 每次运行时间都很长 加载生成引擎engine 缩短运行时间 保存引擎engine文件
m0_61729640的博客
12-07 265
原因：没有以root身份运行代码，在deepstream文件夹下是不能进行文件操作的解决方法：在代码前加sudo就行啦
Nvidia jetson TX2上测试deepstream_tlt_apps示例
zahidzqj的博客
09-20 2103
deepstream_tlt_apps配置地址：https://github.com/NVIDIA-AI-IOT/deepstream_tlt_apps 根据官方github的使用说明进行环境和资源的下载（在下载模型的时候，需要连接外网） 1. 运行frcnn案例： ./deepstream-custom -c pgie_yolov3_tlt_config.txt -i $DS_SRC_PATH/samples/streams/sample_720p.h264 结果： Warning: 'in.
gstreamer/deepstream方面的博文，全网首发且唯一，有图为证
柳鲲鹏
12-11 1013
　　这些东西会的人其实很多，吾当然不是第一个。只是都没有公开， 给新来的造成一些麻烦。吾当时写博文，就是想给大家带来方便。咱也是程序员，遇到了很多问题，也得到了很多帮助，现在有能力有机会也应该奉献一点知识。 　　需要说明的是，因为吾已经转方向一年多了，所以具体细节就不要问了，因为吾已经没有环境了。 　　愿大家平安健康，丰足富饶。 ...
DeepStream 基于 Python 的行人统计模块代码解析
05-11
总结来说，这个课程涵盖了从选择合适的预训练模型，使用TLT进行微调，通过TensorRT优化，到用DeepStream构建行人检测和计数应用的全过程。通过学习这些技术，开发者可以在短时间内构建出高效、精准的行人统计解决...
使用 DeepStream运行车牌识别
chenjambo的博客
06-28 1248
目录先决条件下载设置参数构建，运行 先决条件 DeepStream SDK 5.0.1 运行范例deepstream-test1，以检测deepstream是否安装成功 tlt-converter 下载对应版本的tlt-converter并根据内置说明安装 Platform Compute Link x86 + GPU CUDA 10.2/cuDNN 8.0/TensorRT 7.1 link x86 + GPU CUDA 10.2/cuDNN 8.0/TensorRT 7.2
NVIDIA DeepStream入门介绍
05-11
- **预训练模型**：TLT 提供了六个预先训练好的模型，可以直接用于 DeepStream 中，减少了从零开始训练的时间和资源消耗。 - **数据集标注**：工具支持便捷的数据集标注，加速模型训练流程。 开发 DeepStream ...
DeepStream: GPU加速海量视频数据智能处理
09-14
DeepStream: GPU加速海量视频数据智能处理 赖俊杰, 资深技术经理 NVIDIA 英伟达 DeepStream介绍PPT，13页
Jetson实时目标检测追踪推流--TLT训练、剪枝
xiao__run的博客
07-08 1525
1、背景 在医院、机场、车站等场所中，需要对行人进行实时口罩检测。本文基于NVIDIA TLT工具，介绍口罩检测模型的训练及部署方法，实现在嵌入式端实时处理的效果。在嵌入式上部署推理性能表如下，可以看到裁剪后的模型，即使在 Jetson Nano平台上也能跑搭配20帧，做到实时处理的效果。 流程如下 2、 安装 2.1 docker部署安装 首先部署一下容器环境，进入容器环境中 2.2、训练步骤 总体来说分为8步骤 1、下载预...
【5月8 】NVIDIA 迁移学习工具包（TLT）最佳实践
Hali_Botebie的博客
05-08 2104
感谢您参与英伟达Metropolis从原理到实战系列直播！今天直播的主题是《从原理到实战, NVIDIA 迁移学习工具包（Transfer Learning Toolkit）最佳实践》。我们的直播将于16:00正式开始，本次直播针对各行业的需求和特点，利用NVIDIA原厂的产品技术优势和积累，帮助相关领域的合作伙伴，客户以及开发人员更好地理解NVIDIA相关硬件和软件的使用技巧，从而减少学习和试错...
deepstream5.0 初探
怨行客
05-08 1693
英文手册 1、For better precision,bounding box----from int to float 2、时间戳计算开源在Gst nvstreammux的NTP部分
在使用nvidia tao工具时候，涉及的模型文件.bin和.engine以及.etlt文件之间的关系和区别
最新发布
pvmsmfchcs的博客
04-26 668
根据这些参数，tao-converter 工具将输入的深度学习模型 ssd/ssd_mobilenet_v2_epoch_face.etlt 转换为指定的 TensorRT 引擎文件 ssd/TRT_SSD_mobilenet_v2_face.bin，并在转换过程中将输入数据的维度、数据类型和排列方式等信息进行了优化和调整。.engine文件是在运行时生成的，可以看作是TensorRT引擎的动态表示，保存了计算图的权重参数、计算图的结构信息以及针对特定硬件和TensorRT版本进行优化后的计算图。
deepstream meta应用
evsqiezi
05-06 1619
deepstream-test1 对osd的sink加了一个probe函数osd_sink_pad_buffer_probe，如下代码， NvDsFrameMeta下有NvDsFrameMetaList，NvDsFrameMeta下有NvDsObjectMetaList，统计NvDsFrameMeta下人和车的个数， 并创建NvDsDisplayMeta，将文本信息挂在NvDsDisplayMeta的NvOSD_TextParams，再将NvDsDisplayMeta挂到NvDsFrameMeta。 for
基于TLT训练Yolov3+darknet53
hello_dear_you的博客
12-21 2169
0. 背景
deepstream运行TAO模型
evsqiezi
05-11 1111
nvidia TAO有很多预训练模型，如： ##### Detection Network - Faster-RCNN / YoloV3 / SSD / DSSD / RetinaNet / YoloV4 (https://ngc.nvidia.com/catalog/models/nvidia:tao:Faster-RCNN) - DetectNet_v2 (https://catalog.ngc.nvidia.com/orgs/nvidia/teams/tao/models/pretrained_d.
[Jetson]jetson etlt模型转engine
FL1623863129的博客
03-25 892
将tlt训练自己的模型导出etlt模型，并放到jetson转换engine时候报错： [ERROR] UffParser: Validator error: FirstDimTile_2: Unsupported operation _BatchTilePlugin_TRT [ERROR] Failed to parse the model, please check the encoding key to make sure it's correct [ERROR] Network must have
Python+TLT：深度解析口罩检测模型训练与部署
本篇教程深入解析了如何利用Python和NVIDIA Transfer Learning Toolkit (TLT) 实现基于DeepStream的口罩检测模块。首先，课程面向有一定编程基础，熟悉Python、深度学习和OpenCV的开发者，旨在教授如何构建一个能够...
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

宗而研之

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值