TensorRT
文章平均质量分 67
少有人走的路_心智旅程
这个作者很懒,什么都没留下…
展开
-
【C++】【TensorRT】检测时间不稳定原因汇总(持续更新)
本博客为广大TensorRT开发工程师提供检测时间不稳定的原因汇总情况以及解决方案。原创 2022-09-14 19:27:20 · 5204 阅读 · 26 评论 -
【TensorRT】onnx转成TensorRT开发踩坑记录(Win10+cuda11.1+TensorRT7.2.2.3)(持续更新)
本博客提供onnx模型转成TensorRT模型时的开发经验。原创 2021-12-16 19:39:50 · 4935 阅读 · 8 评论 -
【TensorRT】Jetson XAVIER NX上Yolov4-TensorRT8.2速度与显存记录表(后续不断补充)
本博客提供使用Jetson XAVIER NX设备和yolov4算法在具体项目的实验结果,包括速度和显存占用,方便广大图像处理工程师评估是否可以使用这样的方案来解决相似的场景问题。原创 2022-07-13 19:24:09 · 1019 阅读 · 0 评论 -
【TensorRT】Jetson XAVIER NX上ResUnet-TensorRT8.2速度与显存记录表(后续不断补充)
本博客提供使用Jetson XAVIER NX设备以及ResUnet算法在具体项目的实验结果,包括速度和显存占用,方便广大图像处理工程师评估是否可以使用这样的方案来解决相似的场景问题。原创 2022-06-28 15:43:35 · 1118 阅读 · 0 评论 -
【TensorRT】Jetson XAVIER NX上ResUnet-TensorRT7速度与显存记录表(后续不断补充)
ResUnet-TensorRT速度与显存记录表精度模式图像尺寸类别数批次线程数速度显存FP322Core15W512*640211200ms2.0GFP322Core15W512*640212380ms2.9GFP162Core15W512*64021190ms1.5GFP162Core15W512*640212140ms1.8G说明:1.模式是指Jetson设备的功耗模式,对于Jetson原创 2022-03-12 16:59:56 · 735 阅读 · 0 评论 -
【TensorRT】Jetson XAVIER NX上yolov4-TensorRT7速度与显存记录表(后续不断补充)
yolov4-TensorRT速度与显存记录表精度模式图像尺寸类别数批次线程数速度显存FP322Core15W512*512311130ms2.4GFP322Core15W512*512312210ms3.8GFP162Core15W512*51231155ms1.5GFP162Core15W512*51231255ms2.0G说明:1.模式是指Jetson设备的功耗模式,对于Jetson X原创 2022-03-12 16:54:52 · 1055 阅读 · 4 评论 -
Jetson设备上查看显存(内存)——jetson-stats
Jetson设备上查看显存(内存)——jetson-stats说明:由于Jetson设备上CPU和GPU共用,所以显存就是内存。1.首先需要安装python3-pip命令行输入sudo apt-get install python3-pip可能会报有关于404 Not Found「IP:91.189.88.152 80]的错误:按照上面的提示重新输入命令行sudo apt-get install python3-pip --fix-missing结束后会弹出似乎还是有错误的提示但原创 2022-03-12 16:52:17 · 6252 阅读 · 0 评论 -
【TensorRT】无法定位程序输入点cudaEventRecordwithFlags于动态链接库 nvinfer.dll
环境配置RTX3060Win10cuda11.1TensorRT7.2.2.3问题描述如图,用TensorRT运行程序时,提示如下解决方案发现有个cudart64_110.dll是要调用cuda11.1里面的而不能调用libtorch1.7.1cu111里面的所以建议在系统环境变量中添加CUDA11.1的变量即可,不要把Libtorch1.7.1里面的cudart64_110.dll放到程序执行目录下。...原创 2021-12-16 16:04:25 · 1909 阅读 · 0 评论