DeepStream
cdknight_happy
种一棵树最好的时间是十年前,其次是现在!
展开
-
使用DeepStream 2.0加速视频分析开发
翻译自:https://devblogs.nvidia.com/accelerate-video-analytics-deepstream-2/智慧城市的规模令人难以置信。全球将部署数十亿的传感器,用于使每个街道,公路,公园,机场,停车场和建筑物更加高效。这可以更好地设计我们的道路,以减少拥堵,更好地了解零售环境中的消费者行为,以及快速找到失去的孩子以保持城市安全的能力。视频代表了所使用的最丰富...原创 2019-03-08 14:12:26 · 3168 阅读 · 2 评论 -
gstreamer插件开发指南(一)
翻译自:https://gstreamer.freedesktop.org/documentation/plugin-development/index.html1 简介GStreamer是一个非常强大且通用的框架,用于创建流媒体应用程序。GStreamer框架的许多优点来自其模块化:GStreamer可以无缝地合并新的插件模块。但是,由于模块化和功耗通常需要更高的复杂性(例如,考虑CORBA...原创 2019-05-10 11:34:09 · 8540 阅读 · 1 评论 -
TensorRT Developer Guide - chapter8
Chapter 8 WORKING WITH DEEP LEARNING FRAMEWORKS使用Python API,使用TensorFlow、Caffe或ONNX兼容框架构建的现有模型可提供提供的解析器构建TensorRT引擎。 Python API还支持以NumPy兼容格式存储层权重的框架,例如PyTorch。8.1 支持的框架操作以下列表描述了Caffe或TensorFlow框架和O...原创 2019-04-01 17:40:21 · 839 阅读 · 2 评论 -
TensorRT Developer Guide - chapter6+7
Chapter 6. WORKING WITH DLANVIDIA DLA(深度学习加速器,Deep Learning Accelerator)是一款针对深度学习操作的固定功能加速器引擎。DLA旨在对卷积神经网络进行全硬件加速。DLA支持各种层,如卷积,反卷积,完全连接,激活,池化,批量标准化等。有关TensorRT图层中DLA支持的更多信息,请参阅6.2节DLA支持的图层。trtexec工具...原创 2019-04-01 16:54:21 · 2345 阅读 · 0 评论 -
TensorRT Developer Guide - chapter5
Chapter 5. WORKING WITH MIXED PRECISION混合精度是在计算方法中组合使用不同的数值精度。 TensorRT可以存储权重和激活值,并以32位浮点、16位浮点或量化的8位整数执行层。使用低于FP32的精度可以减少内存使用,允许部署更大的网络。数据传输花费的时间更少,计算性能也会提高,尤其是在Tensor Core支持该精度的GPU上。默认情况下,TensorR...原创 2019-04-01 15:15:00 · 1185 阅读 · 0 评论 -
TensorRT Developer Guide - chapter3
3 WORKING WITH TENSORRT USING THE PYTHON API以下部分重点介绍了可以使用Python API执行的TensorRT用户目标和任务。这些部分专注于使用Python API而不使用任何框架。进一步的细节在Samples部分提供,并在适当的地方链接到下面。假设您从训练好的模型开始。本章将介绍使用TensorRT的以下必要步骤:从模型中创建TensorRT...原创 2019-03-26 17:43:32 · 608 阅读 · 0 评论 -
TensorRT Developer Guide - chapter4
Chapter 4. EXTENDING TENSORRT WITH CUSTOM LAYERSTensorRT支持多种类型的层,并且其功能不断扩展。但是,可能存在支持的层不满足模型的特定需求的情况。在这种情况下,用户可以通过使用C ++和Python API的IPluginV2类实现自定义层来扩展TensorRT功能。自定义层(通常称为插件)由应用程序实现和实例化,它们的生命周期必须跨越Ten...原创 2019-03-29 18:17:46 · 1828 阅读 · 0 评论 -
TensorRT Developer Guide - chapter 1
翻译自:https://devblogs.nvidia.com/accelerating-video-analytics-tlt/1 综述在过去几年中,NVIDIA一直致力于开发解决方案,使各行各业都能获得从AI的发展中受益。 NVIDIA迁移学习工具包专门允许开发人员更快地开发智能视频分析(IVA)系统,使用深度学习,并以最快、最有效的方式将他们的应用程序从原型应用到生产。神经网络通过...原创 2019-03-19 09:38:34 · 784 阅读 · 0 评论 -
TensorRT Developer Guide - chapter 2
2 WORKING WITH TENSORRT USING THE C++ API以下部分重点介绍可以使用C ++ API执行的TensorRT用户目标和任务。进一步的细节在samples部分提供,并在适当的地方链接到下面。假设您从训练好的模型开始。本章将介绍使用TensorRT的以下必要步骤:从模型中创建TensorRT网络定义;调用TensorRT构建器以从网络创建优化的运行时引擎;...原创 2019-03-25 16:17:14 · 738 阅读 · 0 评论 -
GStreamer - Application Development Manual
翻译自:https://gstreamer.freedesktop.org/documentation/application-development/index.html1 前言GStreamer是一个非常强大且通用的框架,用于创建流媒体应用程序。GStreamer框架的许多优点来自其模块化:GStreamer可以无缝地合并新的插件模块。但是,由于模块化和功耗通常需要更高的复杂性,因此编写新...原创 2019-03-12 14:26:05 · 944 阅读 · 0 评论 -
DeepStream:下一代智慧城市的视频分析
文章翻译自:https://devblogs.nvidia.com/deepstream-video-analytics-smart-cities/想象一下每个父母最糟糕的噩梦:一个孩子在一个拥挤的购物中心迷路了。现在想象一下这样一个场景:使用部署在建筑物内的摄像机网络在几分钟内找到并救出该孩子 - 并且实时记录,检索和分析所有视频。这仅代表视频分析领域提供的众多可能性之一。传统视频分析使用基...原创 2019-03-08 10:36:30 · 3638 阅读 · 0 评论 -
使用Transfer Learning Toolkit加速智能视频分析
翻译自:https://devblogs.nvidia.com/accelerating-video-analytics-tlt/在过去几年中,NVIDIA一直致力于开发解决方案,使AI可以应用于各行各业。 NVIDIA迁移学习工具包专门允许开发人员更快地使用深度学习开发智能视频分析(IVA)系统,并以最快、最有效的方式将他们的应用程序从原型应用到生产。神经网络从数据中学习,获得称之为“权...原创 2019-03-08 17:35:39 · 1464 阅读 · 0 评论 -
利用DeepStream SDK 3.0突破智能视频分析的限制
一张图片胜过千言万语,视频有数千张图片。两者都包含通过智能视频分析(IVA)的力量揭示的令人难以置信的洞察力。NVIDIA DeepStream SDK加速了可扩展IVA应用程序的开发,使开发人员更容易构建核心深度学习网络,而不是从头开始设计端到端应用程序。DeepStream SDK 2.0在前一篇文章中有详细介绍,它支持将IVA应用程序实现为基于GStreamer多媒体框架的硬件加速插件流...原创 2019-03-08 16:03:15 · 3052 阅读 · 4 评论 -
[未解决]TensorRT推理过程CUBLAS_STATUS_EXECUTION_FAILED
使用tensorRT进行YoloV3检测时,在运行tensorRT的m_Context->enqueue函数时,出现了下面所示的bug:ERROR: c:\p4sw\sw\gpgpu\MachineLearning\DIT\release\5.1\engine\cuda\cublasHelpers.cpp (34) - cuBLAS Error in nvinfer1::stridedGe...原创 2019-09-18 17:15:36 · 2078 阅读 · 1 评论