tensorRT从零起步高性能部署
文章平均质量分 95
课程笔记
爱听歌的周童鞋
古人学问无遗力,少壮工夫老始成。
纸上得来终觉浅,绝知此事要躬行。
展开
-
tensorRT从零起步高性能部署:课程总结
tensorRT从零起步高性能部署:课程总结原创 2023-09-03 21:35:20 · 1542 阅读 · 8 评论 -
9.4.tensorRT高级(4)封装系列-使用pybind11为python开发扩展模块
9.4.tensorRT高级(4)封装系列-使用pybind11为python开发扩展模块原创 2023-09-03 21:29:15 · 591 阅读 · 2 评论 -
9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测
9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测原创 2023-09-03 21:22:59 · 1157 阅读 · 0 评论 -
9.2.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-深度估计
9.2.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-深度估计原创 2023-09-03 21:17:43 · 735 阅读 · 0 评论 -
9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析
9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析原创 2023-09-03 21:13:54 · 824 阅读 · 0 评论 -
8.7.tensorRT高级(3)封装系列-调试方法、思想讨论
8.7.tensorRT高级(3)封装系列-调试方法、思想讨论原创 2023-08-27 20:29:40 · 611 阅读 · 0 评论 -
8.6.tensorRT高级(3)封装系列-终极封装形态,以及考虑的问题
8.6.tensorRT高级(3)封装系列-终极封装形态,以及考虑的问题原创 2023-08-27 20:27:42 · 660 阅读 · 2 评论 -
8.5.tensorRT高级(3)封装系列-基于生产者消费者实现的yolov5封装
8.5.tensorRT高级(3)封装系列-基于生产者消费者实现的yolov5封装原创 2023-08-20 21:57:38 · 732 阅读 · 0 评论 -
8.4.tensorRT高级(3)封装系列-infer推理封装,输入输出tensor的关联
8.4.tensorRT高级(3)封装系列-infer推理封装,输入输出tensor的关联原创 2023-08-20 21:56:06 · 630 阅读 · 1 评论 -
8.3.tensorRT高级(3)封装系列-tensor封装,索引计算,内存标记及自动复制
8.3.tensorRT高级(3)封装系列-tensor封装,索引计算,内存标记及自动复制原创 2023-08-20 21:53:10 · 508 阅读 · 0 评论 -
8.2.tensorRT高级(3)封装系列-内存管理的封装,内存的复用
8.2.tensorRT高级(3)封装系列-内存管理的封装,内存的复用原创 2023-08-20 21:50:19 · 638 阅读 · 2 评论 -
8.1.tensorRT高级(3)封装系列-模型编译过程封装,简化模型编译代码
8.1.tensorRT高级(3)封装系列-模型编译过程封装,简化模型编译代码原创 2023-08-13 21:59:03 · 666 阅读 · 0 评论 -
7.5.tensorRT高级(2)-RAII接口模式下的生产者消费者多batch实现
7.5.tensorRT高级(2)-RAII接口模式下的生产者消费者多batch实现原创 2023-08-13 21:52:30 · 1374 阅读 · 2 评论 -
7.4.tensorRT高级(2)-使用RAII接口模式对代码进行有效封装
7.4.tensorRT高级(2)-使用RAII接口模式对代码进行有效封装原创 2023-08-13 21:49:44 · 551 阅读 · 1 评论 -
7.3.tensorRT高级(2)-future、promise、condition_variable
7.3.tensorRT高级(2)-future、promise、condition_variable原创 2023-08-13 21:47:46 · 593 阅读 · 0 评论 -
7.2.tensorRT高级(2)-学习深度学习中涉及的线程知识
7.2.tensorRT高级(2)-学习深度学习中涉及的线程知识原创 2023-08-13 21:44:44 · 916 阅读 · 0 评论 -
7.1.tensorRT高级(2)-使用openvino进行onnx的模型推理过程
7.1.tensorRT高级(2)-使用openvino进行onnx的模型推理过程原创 2023-08-06 16:52:41 · 725 阅读 · 0 评论 -
6.7.tensorRT高级(1)-使用onnxruntime进行onnx模型推理过程
6.7.tensorRT高级(1)-使用onnxruntime进行onnx模型推理过程原创 2023-08-06 16:49:36 · 1828 阅读 · 0 评论 -
6.6.tensorRT高级(1)-mmdetection框架下yolox模型导出并推理
6.6.tensorRT高级(1)-mmdetection框架下yolox模型导出并推理原创 2023-08-06 16:43:56 · 904 阅读 · 5 评论 -
6.5.tensorRT高级(1)-alphapose模型导出、编译到推理(无封装)
6.5.tensorRT高级(1)-alphapose模型导出、编译到推理(无封装)原创 2023-08-06 16:38:51 · 774 阅读 · 2 评论 -
6.4.tensorRT高级(1)-UNet分割模型导出、编译到推理(无封装)
6.4.tensorRT高级(1)-UNet分割模型导出、编译到推理(无封装)原创 2023-08-06 16:32:01 · 768 阅读 · 2 评论 -
6.3.tensorRT高级(1)-yolov5模型导出、编译到推理(无封装)
6.3.tensorRT高级(1)-yolov5模型导出、编译到推理(无封装)原创 2023-07-30 17:25:10 · 1407 阅读 · 9 评论 -
6.2.tensorRT高级(1)-第一个完整的分类器程序
6.2.tensorRT高级(1)-第一个完整的分类器程序原创 2023-07-30 17:18:17 · 527 阅读 · 0 评论 -
6.1.tensorRT高级(1)-概述
6.1.tensorRT高级(1)-概述原创 2023-07-30 17:15:26 · 409 阅读 · 0 评论 -
5.6.tensorRT基础(2)-学习编译int8模型,对模型进行int8量化
5.6.tensorRT基础(2)-学习编译int8模型,对模型进行int8量化原创 2023-07-23 20:58:20 · 793 阅读 · 0 评论 -
5.5.tensorRT基础(2)-封装插件过程,并实现更容易的插件开发
5.5.tensorRT基础(2)-封装插件过程,并实现更容易的插件开发原创 2023-07-23 20:52:18 · 833 阅读 · 7 评论 -
5.4.tensorRT基础(2)-学习第一个插件的编写
5.4.tensorRT基础(2)-学习第一个插件的编写原创 2023-07-23 20:50:11 · 1044 阅读 · 13 评论 -
5.3.tensorRT基础(2)-从下载onnx-tensorrt到配置好并运行起来
5.3.tensorRT基础(2)-从下载onnx-tensorrt到配置好并运行起来原创 2023-07-23 20:47:17 · 752 阅读 · 0 评论 -
5.2.tensorRT基础(2)-使用onnx解析器来读取onnx文件(源码编译)
5.2.tensorRT基础(2)-使用onnx解析器来读取onnx文件(源码编译)原创 2023-07-23 20:40:54 · 2352 阅读 · 19 评论 -
5.1.tensorRT基础(2)-正确导出onnx的介绍,使得onnx问题尽量少
5.1.tensorRT基础(2)-正确导出onnx的介绍,使得onnx问题尽量少原创 2023-07-23 20:36:54 · 743 阅读 · 0 评论 -
4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作
4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作原创 2023-07-16 16:35:42 · 1174 阅读 · 5 评论 -
4.5.tensorRT基础(1)-onnx文件及其结构的学习,编辑修改onnx
4.5.tensorRT基础(1)-onnx文件及其结构的学习,编辑修改onnx原创 2023-07-16 16:28:47 · 1823 阅读 · 0 评论 -
4.4.tensorRT基础(1)-模型推理时动态shape的具体实现要点
4.4.tensorRT基础(1)-模型推理时动态shape的具体实现要点原创 2023-07-16 16:20:27 · 1952 阅读 · 3 评论 -
4.3.tensorRT基础(1)-实现模型的推理过程
4.3.tensorRT基础(1)-实现模型的推理过程原创 2023-07-16 16:16:37 · 1817 阅读 · 2 评论 -
4.2.tensorRT基础(1)-第一个trt程序,实现模型编译的过程
4.2.tensorRT基础(1)-第一个trt程序,实现模型编译的过程原创 2023-07-16 16:11:27 · 1158 阅读 · 2 评论 -
4.1.tensorRT基础(1)-概述
4.1.tensorRT基础(1)-概述原创 2023-07-16 16:07:53 · 966 阅读 · 4 评论 -
3.9.cuda运行时API-错误处理的理解以及错误的传播特性
3.9.错误处理的理解以及错误的传播特性原创 2023-07-09 21:45:24 · 510 阅读 · 0 评论 -
3.8.cuda运行时API-使用cuda核函数加速yolov5后处理
3.8.使用cuda核函数加速yolov5后处理原创 2023-07-09 21:43:24 · 1525 阅读 · 1 评论 -
3.7.cuda运行时API-使用cuda核函数加速warpaffine
3.7.使用cuda核函数加速warpaffine原创 2023-07-09 21:40:57 · 1084 阅读 · 2 评论 -
3.6.cuda运行时API-共享内存的学习
3.6.共享内存的学习原创 2023-07-09 21:37:57 · 763 阅读 · 0 评论