![](https://img-blog.csdnimg.cn/1c5b6f604a194a1c86c78b319a9ec997.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
tensorRT从零起步高性能部署
文章平均质量分 95
课程笔记
爱听歌的周童鞋
古人学问无遗力,少壮工夫老始成。
纸上得来终觉浅,绝知此事要躬行。
展开
-
tensorRT从零起步高性能部署:课程总结
tensorRT从零起步高性能部署:课程总结原创 2023-09-03 21:35:20 · 1525 阅读 · 8 评论 -
9.4.tensorRT高级(4)封装系列-使用pybind11为python开发扩展模块
9.4.tensorRT高级(4)封装系列-使用pybind11为python开发扩展模块原创 2023-09-03 21:29:15 · 588 阅读 · 2 评论 -
9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测
9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测原创 2023-09-03 21:22:59 · 1156 阅读 · 0 评论 -
9.2.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-深度估计
9.2.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-深度估计原创 2023-09-03 21:17:43 · 735 阅读 · 0 评论 -
9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析
9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析原创 2023-09-03 21:13:54 · 824 阅读 · 0 评论 -
8.7.tensorRT高级(3)封装系列-调试方法、思想讨论
8.7.tensorRT高级(3)封装系列-调试方法、思想讨论原创 2023-08-27 20:29:40 · 608 阅读 · 0 评论 -
8.6.tensorRT高级(3)封装系列-终极封装形态,以及考虑的问题
8.6.tensorRT高级(3)封装系列-终极封装形态,以及考虑的问题原创 2023-08-27 20:27:42 · 656 阅读 · 2 评论 -
8.5.tensorRT高级(3)封装系列-基于生产者消费者实现的yolov5封装
8.5.tensorRT高级(3)封装系列-基于生产者消费者实现的yolov5封装原创 2023-08-20 21:57:38 · 726 阅读 · 0 评论 -
8.4.tensorRT高级(3)封装系列-infer推理封装,输入输出tensor的关联
8.4.tensorRT高级(3)封装系列-infer推理封装,输入输出tensor的关联原创 2023-08-20 21:56:06 · 625 阅读 · 1 评论 -
8.3.tensorRT高级(3)封装系列-tensor封装,索引计算,内存标记及自动复制
8.3.tensorRT高级(3)封装系列-tensor封装,索引计算,内存标记及自动复制原创 2023-08-20 21:53:10 · 505 阅读 · 0 评论 -
8.2.tensorRT高级(3)封装系列-内存管理的封装,内存的复用
8.2.tensorRT高级(3)封装系列-内存管理的封装,内存的复用原创 2023-08-20 21:50:19 · 629 阅读 · 2 评论 -
8.1.tensorRT高级(3)封装系列-模型编译过程封装,简化模型编译代码
8.1.tensorRT高级(3)封装系列-模型编译过程封装,简化模型编译代码原创 2023-08-13 21:59:03 · 651 阅读 · 0 评论 -
7.5.tensorRT高级(2)-RAII接口模式下的生产者消费者多batch实现
7.5.tensorRT高级(2)-RAII接口模式下的生产者消费者多batch实现原创 2023-08-13 21:52:30 · 1365 阅读 · 2 评论 -
7.4.tensorRT高级(2)-使用RAII接口模式对代码进行有效封装
7.4.tensorRT高级(2)-使用RAII接口模式对代码进行有效封装原创 2023-08-13 21:49:44 · 547 阅读 · 1 评论 -
7.3.tensorRT高级(2)-future、promise、condition_variable
7.3.tensorRT高级(2)-future、promise、condition_variable原创 2023-08-13 21:47:46 · 583 阅读 · 0 评论 -
7.2.tensorRT高级(2)-学习深度学习中涉及的线程知识
7.2.tensorRT高级(2)-学习深度学习中涉及的线程知识原创 2023-08-13 21:44:44 · 904 阅读 · 0 评论 -
7.1.tensorRT高级(2)-使用openvino进行onnx的模型推理过程
7.1.tensorRT高级(2)-使用openvino进行onnx的模型推理过程原创 2023-08-06 16:52:41 · 716 阅读 · 0 评论 -
6.7.tensorRT高级(1)-使用onnxruntime进行onnx模型推理过程
6.7.tensorRT高级(1)-使用onnxruntime进行onnx模型推理过程原创 2023-08-06 16:49:36 · 1811 阅读 · 0 评论 -
6.6.tensorRT高级(1)-mmdetection框架下yolox模型导出并推理
6.6.tensorRT高级(1)-mmdetection框架下yolox模型导出并推理原创 2023-08-06 16:43:56 · 892 阅读 · 5 评论 -
6.5.tensorRT高级(1)-alphapose模型导出、编译到推理(无封装)
6.5.tensorRT高级(1)-alphapose模型导出、编译到推理(无封装)原创 2023-08-06 16:38:51 · 771 阅读 · 2 评论 -
6.4.tensorRT高级(1)-UNet分割模型导出、编译到推理(无封装)
6.4.tensorRT高级(1)-UNet分割模型导出、编译到推理(无封装)原创 2023-08-06 16:32:01 · 754 阅读 · 2 评论 -
6.3.tensorRT高级(1)-yolov5模型导出、编译到推理(无封装)
6.3.tensorRT高级(1)-yolov5模型导出、编译到推理(无封装)原创 2023-07-30 17:25:10 · 1392 阅读 · 8 评论 -
6.2.tensorRT高级(1)-第一个完整的分类器程序
6.2.tensorRT高级(1)-第一个完整的分类器程序原创 2023-07-30 17:18:17 · 513 阅读 · 0 评论 -
6.1.tensorRT高级(1)-概述
6.1.tensorRT高级(1)-概述原创 2023-07-30 17:15:26 · 404 阅读 · 0 评论 -
5.6.tensorRT基础(2)-学习编译int8模型,对模型进行int8量化
5.6.tensorRT基础(2)-学习编译int8模型,对模型进行int8量化原创 2023-07-23 20:58:20 · 782 阅读 · 0 评论 -
5.5.tensorRT基础(2)-封装插件过程,并实现更容易的插件开发
5.5.tensorRT基础(2)-封装插件过程,并实现更容易的插件开发原创 2023-07-23 20:52:18 · 825 阅读 · 7 评论 -
5.4.tensorRT基础(2)-学习第一个插件的编写
5.4.tensorRT基础(2)-学习第一个插件的编写原创 2023-07-23 20:50:11 · 1027 阅读 · 13 评论 -
5.3.tensorRT基础(2)-从下载onnx-tensorrt到配置好并运行起来
5.3.tensorRT基础(2)-从下载onnx-tensorrt到配置好并运行起来原创 2023-07-23 20:47:17 · 740 阅读 · 0 评论 -
5.2.tensorRT基础(2)-使用onnx解析器来读取onnx文件(源码编译)
5.2.tensorRT基础(2)-使用onnx解析器来读取onnx文件(源码编译)原创 2023-07-23 20:40:54 · 2336 阅读 · 19 评论 -
5.1.tensorRT基础(2)-正确导出onnx的介绍,使得onnx问题尽量少
5.1.tensorRT基础(2)-正确导出onnx的介绍,使得onnx问题尽量少原创 2023-07-23 20:36:54 · 735 阅读 · 0 评论 -
4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作
4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作原创 2023-07-16 16:35:42 · 1162 阅读 · 5 评论 -
4.5.tensorRT基础(1)-onnx文件及其结构的学习,编辑修改onnx
4.5.tensorRT基础(1)-onnx文件及其结构的学习,编辑修改onnx原创 2023-07-16 16:28:47 · 1811 阅读 · 0 评论 -
4.4.tensorRT基础(1)-模型推理时动态shape的具体实现要点
4.4.tensorRT基础(1)-模型推理时动态shape的具体实现要点原创 2023-07-16 16:20:27 · 1904 阅读 · 3 评论 -
4.3.tensorRT基础(1)-实现模型的推理过程
4.3.tensorRT基础(1)-实现模型的推理过程原创 2023-07-16 16:16:37 · 1781 阅读 · 2 评论 -
4.2.tensorRT基础(1)-第一个trt程序,实现模型编译的过程
4.2.tensorRT基础(1)-第一个trt程序,实现模型编译的过程原创 2023-07-16 16:11:27 · 1138 阅读 · 0 评论 -
4.1.tensorRT基础(1)-概述
4.1.tensorRT基础(1)-概述原创 2023-07-16 16:07:53 · 955 阅读 · 4 评论 -
3.9.cuda运行时API-错误处理的理解以及错误的传播特性
3.9.错误处理的理解以及错误的传播特性原创 2023-07-09 21:45:24 · 505 阅读 · 0 评论 -
3.8.cuda运行时API-使用cuda核函数加速yolov5后处理
3.8.使用cuda核函数加速yolov5后处理原创 2023-07-09 21:43:24 · 1508 阅读 · 1 评论 -
3.7.cuda运行时API-使用cuda核函数加速warpaffine
3.7.使用cuda核函数加速warpaffine原创 2023-07-09 21:40:57 · 1069 阅读 · 2 评论 -
3.6.cuda运行时API-共享内存的学习
3.6.共享内存的学习原创 2023-07-09 21:37:57 · 755 阅读 · 0 评论