![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
TensorRT
惊醒幡然1
这个作者很懒,什么都没留下…
展开
-
TensorRT(二) TensorRT使用
TensorRT工作流程如上图所示,是一个从摄像头获取视频流并使用TensorRT加速推理的一个过程,下面大致对上图进行讲解。1.首先要获得一个TensorRT支持的模型格式,TensorRT支持uff、onnx、caffee三种格式。2.工作流程图中使用转好的uff格式的模型构建TensorRT Engine,有两种构建方式,一种使用TensorRT自带的工具trtexec,另一种使用TensorRT的C++和python的API接口用于构建。TensorRT自带的工具trtexec,例子如下,原创 2020-08-06 16:17:39 · 1820 阅读 · 0 评论 -
TensorRT(一) 安装Jetson AGX Xavier
TensorRT简介NVIDIA TensorRT™ 是用于高性能深度学习推理的 SDK。此 SDK 包含深度学习推理优化器和运行时环境,可为深度学习推理应用提供低延迟和高吞吐量。可以从每个深度学习框架中将已训练模型导入到 TensorRT。应用优化后,TensorRT 选择平台特定的内核,在Jetson 嵌入式平台或其他支持TensorRT的平台更大限度提升性能。本文中使用的是Jetson AGX Xavier。安装Jetson AGX Xavier安装过程在此不赘述,附两个比较不错的安装参考链接原创 2020-08-06 15:28:34 · 3531 阅读 · 0 评论