tensorrt
文章平均质量分 95
tangjunjun-owen
从事人工智能行业,已从事工业检测行业、智慧交通行业、智慧城市行业,已有如下经验:
ARM/jetson部署、NVIDIA性能优化、道路感知2D、单目3D、点云3D、目标跟踪、lidar/radar/vison多传感融合、中间件ROS2开发、相机标定、工业2D检测/分类/分割、数据增强、attention、transformer、模型压缩加速
计算机技能:C++、Python、cuda、tensorrt、ros2
展开
-
第十二章 YOLO的部署实战篇(下篇)
我将带领大家如何使用cuda部署yolov5的算法,也会涉及到tensorrt相关内容,介于我不太清楚各位现有技术能力,我将介绍基于tensorrt的yolov5模型部署,也会涉及到一些tensorrt相关知识,主要分为三个部分内容,内容一基于onnx的yolov5部署的tensorrt介绍,内容二基于cpu部署onnx的yolov5模型介绍,主要介绍如何使用C++构建前后处理逻辑,内容三``基于cuda部署的yolov5模型介绍``,主要介绍如何使用cuda构建前后处理逻辑及device端内部处理过程。原创 2023-09-04 22:22:08 · 2186 阅读 · 0 评论 -
第十二章 YOLO的部署实战篇(上篇)
我将带领大家如何使用cuda部署yolov5的算法,也会涉及到tensorrt相关内容,介于我不太清楚各位现有技术能力,我将介绍基于tensorrt的yolov5模型部署,也会涉及到一些tensorrt相关知识,主要分为三个部分内容,内容一基于onnx的yolov5部署的tensorrt介绍,内容二基于cpu部署onnx的yolov5模型介绍,主要介绍如何使用C++构建前后处理逻辑,内容三``基于cuda部署的yolov5模型介绍``,主要介绍如何使用cuda构建前后处理逻辑及device端内部处理过程。原创 2023-09-03 17:35:55 · 476 阅读 · 0 评论 -
C++API搭建Tensorrt深度解析及构建模板(构建引擎/序列化与反序列化/推理)
好久没写一篇关于使用C++ API搭建构建Tensorrt的文章了,而本篇文章该说些什么了,也不想像很多博客介绍Tensorrt的C++API,直接来几个步骤,然后如何搭建网络,构造engine,需要前提logger等。为此,本篇博客为了减少下载什么pth,根据什么onnx等不必要麻烦,我们将从torch构建一个简单网络, 并将其转换wts格式,然后通过C++API调用wts(权重)建立如...原创 2022-07-15 00:15:00 · 341 阅读 · 0 评论 -
基于RESNET网络实现tensorrt转换教程(onnx转engine和wts转engine)
近日很想验证使用pytorch训练模型转tensorrt各种关系,更深理解基于C++ API接口engine加速理论(Python API接口稍微简单,将不在验证),本文基于ResNet分类网络。本文内容主要分为六个内容,第一个内容介绍使用python构建网络,获取pt/wts/onnx文件;第二个内容介绍基于C++ API构建engine;第三个内容介绍基于C++使用onnx构建engin...原创 2022-08-29 09:59:00 · 534 阅读 · 0 评论 -
YOLOV5、YOLOV7使用onnx转tensorrt(engine)
近几日完成ResNet相关实现engine方法,但仅仅基于基于简单分类网络实现转换,且基于Tensorrt C++ API 构建YLOV5实现engine转换相关资料较多,然调用ONNX解析转换engine相关资料较少,因此本文将介绍如何使用onnx构建engine,并推理。 ...原创 2022-09-04 23:12:00 · 537 阅读 · 0 评论 -
tensorRT搭建mlp网络教程(C++)
本文属于tensorrt入门篇,采用C++ API搭建MLP网络,并实现推理,帮助与我类似的小白更快上手python版本的方法。另外,本文将使用visual studio编译器。同篇基于python搭建mlp文章链接提示:以下是本篇文章正文内容,下面案例可供参考。原创 2023-04-19 10:37:14 · 476 阅读 · 1 评论 -
tensorRT搭建mlp网络教程(python)
本文属于tensorrt入门篇,采用python API搭建MLP网络,并实现推理,帮助与我类似的小白更快上手python版本的方法。我将介绍内容为: 简单介绍、linux如何配置tensorRT、MLP网络搭建步骤及详细说明、原始代码与改编代码。同篇关联C++ API文章为:https://www.cnblogs.com/tangjunjun/p/16127634.html提示:以下是本篇文章正文内容,下面案例可供参考。原创 2023-04-18 22:49:18 · 337 阅读 · 0 评论