TensorRT
文章平均质量分 56
mathlxj
复旦大学数院博士毕业,蚂蚁打工人,神经网络方向,目前涉猎计算机视觉、机器学习、推荐系统、TensorRT、自动驾驶、联邦学习、消费信贷、量化等领域。
展开
-
自动驾驶之车道线检测调研与实测
作者针对Caltech、Tusimple等数据集场景单一、数据量少、难度低等问题,用6辆车在北京不同时间录制了超过55小时,标注了133235张图片,超过Tusimple Dataset20倍的数据量。论文分成88880张作为训练集, 9675作为验证集,34680做测试集。数据集包含城市、农村高速等场景,每张图片用最多4条线进行标注[对应也是4个车道线],对向车道不标,对遮挡部分也标出来。【注意,这里代码只包含了inference阶段,得到分割的probability maps,不包含后处理的代码】原创 2023-04-03 20:37:04 · 988 阅读 · 0 评论 -
自动驾驶之3D目标检测的SMOKE算法
由于Xavier无法安装MAGMA,需要将代码中求逆的操作改为在cpu上运行,该操作对推断用时增加10ms左右,影响不大。虽然模型中没有显式建模2D bbox,2D bbox通过求将3D bbox映射到图像平面后最小外接矩形获得。我们在Jeston Xavier上安装github代码.模型实际输出log的例子。原创 2023-04-03 20:21:02 · 1007 阅读 · 0 评论 -
自动驾驶之单目3D目标检测TensorRT调研
自动驾驶之单目3D目标检测TensorRT调研,在Xavier上的推断速度,主要是CenterNet-3D算法。原创 2022-12-10 11:19:19 · 895 阅读 · 0 评论 -
yolov3、yolov5和DETR在NVIDIA Xavier测速(TensorRT)
本人实测YoloV3、YoloV5和DETR的TensorRT版本在NVIDIA Xavier上的测速结果如下,任何问题留言讨论:原创 2022-02-15 12:08:33 · 2797 阅读 · 1 评论 -
Ubuntu 18.04安装TensorRT 7.2.1
1. 下载TensorRT 7.2.1下载地址2. 解压缩tar -zxvf TensorRT-7.2.1.6.Ubuntu-18.04.x86_64-gnu.cuda-10.2.cudnn8.0.tar.gz3. 修改环境变量vim ~/.bashrcexport LD_LIBRARY_PATH=/home/lixj/Downloads/trt-fasterrcnn/TensorRT-7.2.1.6/lib:$LD_LIBRARY_PATH4. 安装对应python版本cd Tenso原创 2021-05-28 16:53:38 · 2286 阅读 · 0 评论 -
Ubuntu 18.04 切换cudnn版本
1. 查看当前版本cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 22. 下载希望更新的版本CUDNN需要NVIDIA账号登录,例如这里下载的cudnn 8.0.3.33 for cuda 10.2,文件名为cudnn-10.2-linux-x64-v8.0.3.33.tgz.3. 删除或备份原来的cudnn文件 sudo rm -rf /usr/local/cuda/include/cudnn.hsudo rm -rf /原创 2021-05-27 11:02:54 · 658 阅读 · 0 评论 -
Ubuntu 切换不同的CUDA版本
查看安装的cuda版本ls /usr/local/删除已有软链接sudo rm -rf cuda建立新的软链接,进而切换版本例如切换到cuda 10.2sudo ln -s /usr/local/cuda-10.2 /usr/local/cuda原创 2021-05-27 10:30:09 · 513 阅读 · 0 评论 -
MaskRCNN+TensorRT在Jetson Xavier NX上的测速
本测试结果为原创,转载需附带本文链接。基本配置:CUDA10.2,CUDNN 8.0,TensoRT 7.1, Jetpack 4.4原创 2020-11-17 09:58:35 · 2097 阅读 · 6 评论 -
MaskRCNN+TensorRT在Jetson Xavier上的测速
以下测速为原创,转载需要附带本文链接。TRT fp32首次生成时间555.2sTRT fp16首次生成时间1522.9s原创 2020-11-17 09:52:04 · 1406 阅读 · 0 评论 -
TensorRT python API 文档翻译
前言近期需要研究如何使用TensorRT的python API,翻译了部分文档,做我个人的笔记,大家也可分享交流,如有错误,感谢勘误.参考网址:Using The Python APIUsing The Python API1 导入TRTimport tensorrt as tfTRT_LOGGER = trt.Logger(trt.Logger.WARNING)启动一个logging界面,以输出TRT的errors,warnings和信息化的信息(informational message翻译 2020-08-17 16:37:51 · 1476 阅读 · 1 评论 -
Ubuntu18.04编译TensorRT MaskRCNN例子和模型转化---sampleuffMaskRCNN
Ubuntu18.04编译TensorRT MaskRCNN例子和模型转化0.前期准备Step1 安装requirement.txt需要的依赖Step2 安装编译sample需要的其他系统的包Step3 Clone github 的TensorRT库Step4 开始编译Step5 修改conv2d_transpose function in UFF的conversion_functions.pyStep6 下载Mask R-CNN库并设置PYTHONPATH.Step7 Apply the patch i原创 2020-08-05 17:29:15 · 1894 阅读 · 5 评论 -
Ubuntu 18.04 安装配置TensorRT 6.0
Ubuntu 18.04 安装配置TensorRT 6.0Step1 安装anacondaStep2 安装CUDA10.1Step3 安装cudnn 7.6.5Step4 配置cuda路径Step5 安装pipStep 6 conda创建新环境trt, python版本选择python3.6,用来安装trtStep7 TensorRT下载安装Step8 验证python版本tensorrt安装Step9 安装uffStep10 安装graphsurgeonStep1 安装anaconda从tuna上下载原创 2020-08-05 13:24:15 · 2680 阅读 · 2 评论 -
TX2上编译安装TensorRT的SampleUffMaskRCNN示例程序
buzhoushengjicmakebianyicurlStep1: git clone功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入shengjicmakehengjicmakeCMake Error: Could not原创 2020-07-25 21:27:10 · 1363 阅读 · 4 评论 -
TensorRT学习常用网址汇总(持续更新)
一、官方网址网址名称简介tensorrt-support-matrix TensorRT中文教程中文教程,部分翻译TensorRT官方中文文档官方中文文档,注意版本号NVIDIA-AI-IOT/Torch2trtpython版本的pytorch模型使用TensorRT方法NVIDIA-AI-IOT/tf_trt_modelspython版本的...原创 2020-04-09 17:09:23 · 924 阅读 · 3 评论