python与C++与TensorRT的绑定

书中藏着宇宙

已于 2023-11-28 10:02:18 修改

阅读量174

点赞数 1

分类专栏： Yolo+Deepsort+ROS NVIDIA边缘端视觉部署文章标签： python c++ 开发语言

于 2023-11-24 19:29:10 首次发布

本文链接：https://blog.csdn.net/m0_49586319/article/details/134605169

版权

Yolo+Deepsort+ROS 同时被 2 个专栏收录

21 篇文章 28 订阅 ¥39.90 ¥99.00

订阅专栏

超级会员免费看

NVIDIA边缘端视觉部署

16 篇文章 9 订阅 ¥39.90 ¥99.00

订阅专栏

超级会员免费看

绑定的起因

Jetpack中的TensorRT不能直接在python3.8环境中使用，所以我们需要对TensorRT利用pybind11对python相进性绑定。
绑定的官方链接如下：点击这里
这个是8.2版本的，你可以使用其他版本也是可以的。

整个过程可以在虚拟环境中完成，主要是想最后的whl文件

在Jetson中创建一个external目录，并将pybind11克隆到其中。

sudo mkdir external && cd external
git clone https://github.com/pybind/pybind11.git


在external里面新建一个pythonX.Y目录，X.Y为你python的版本。我以3.8.0 为例。

从官方获取python源代码，下载对应的python版本。将python源码中Include路径下的内容拷贝到external/python3.8/include中。
python -官方源码地址
在这里插入图片描述

下载对应python 版本的软件调试包

了解本专栏

订阅专栏解锁全文

超级会员免费看

优惠劵

书中藏着宇宙

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
打赏
0
评论
python与C++与TensorRT的绑定

TensorRT与python的绑定解决方案。
复制链接

扫一扫

专栏目录

订阅专栏

tensorRT部署resnet网络Python、c++源码

08-18

tensorRT部署resnet网络包括onnx文件生成，及推理引擎生成，利用推理引擎推理环境配置使用TensorRT来加速部署图片分类项目，此文档中包含全部软件及依赖库在Win10系统上完成，需要用到的软件与依赖包有：cuda 10.2 , cudnn 7.6.5 , VS2017 , OpenCV 3.4.0 , Anaconda3 , CMake 3.19.4 , TensorRT 8.0 ，代码附详细解释

使用Python部署TensorRT

wq_0708的博客

11-11

7183

使用Python API构建TensorRT engine

参与评论您还未登录，请先登录后发表或查看评论

python中的rt_tensorRT动态输入（python）

weixin_39911567的博客

12-10

1960

关于tensorRT动态输入的例子大多数都是c++版本的，python版本的较少，这里简单总结下python处理tensorRT动态输入时，遇到的一些问题及解决方案。这里的动态输入是指batch，width，height等不固定大小的输入。对于目标检测等问题，如果将图像压缩到指定长度和宽度，一般会损失一些性能，一般情况下是压缩较小的边到一定数值(例如608，416等)，另一条边按照比例进行压缩，这...

tensorrt 推理Unet网络（python && C++）

maobin_1的博客

01-11

554

分类数量改为2，训练部分参考源码，源码中可能由于pytorch版本不一样需要改一下。我的输入是（1，3，720，1280），输出是（1，2，720，1280），源码。重要推理部分如下，C++部分改天上传。

Python api构建tensorrt加速模型

weixin_45074568的博客

08-30

661

一、创建TensorRT有以下几个步骤： 1.用TensorRT中network模块定义网络模型 2.调用TensorRT构建器从网络创建优化的运行时引擎 3.采用序列化和反序列化操作以便在运行时快速重建 4.将数据喂入engine中进行推理二、Python api和C++ api在实现网络加速有什么区别？个人看法 1.python比c++更容易读并且已经有很多包装很好的科学运算库（numpy，scikit等）, 2.c++是接近硬件的语言，运行速度比python快很多很多，因为python是解释性语言

TensorRT学习笔记（一）——使用Python API调用TensorRT

weixin_41693877的博客

07-19

6054

前言作为在英伟达自家GPU上的推理库，TensoRT仍然是使用英伟达显卡部署方案的最佳选择。TensorRT虽然支持Pytho和C++调用，但是在TensorRT8之前，python api只能在linux上使用，直到TensorRT8才支持python api在window下使用。具体安装在官方文档都有说明，附上官方文档：TensorRT官方文档安装 .........

基于TensorRT 5.x的网络推理加速(python)

g11d111的博客

06-15

8061

本文目的主要在于如何使用TensorRT 5.x的python api来进行神经网络的推理。因为目前TensorRT只支持ONNX，Caffe和Uff (Universal Framework Format)这三种格式。这里以tensorflow的pb模型为例（可以无缝转换为uff）进行说明。 0. TensoRT介绍 TensorRT是英伟达(NVIDIA)开发的一个可以在NVIDIA旗下...

TensorRT7.0版本在Linux环境安装，以及安装python API接口，测试TensorRT中的测试用例

求真、务实

11-26

4940

#1 TensorRT 介绍 ##1.1. 认识TensorRT TensorRT是NVIDIA开发的高性能的深度学习推理SDK，它包括深度学习推理优化器和运行时的低延时和数据高吞吐量。 TensorRT是有助于在NVIDIA图像处理单元（GPU）的高性能推理的C++库，旨在与TensorFlow、Caffe、Pytorch、MXNet等训练框架形成互补方式工作，从而使预训练的模型快速的在GPU上进行工作，生成结果。 TensorRT是基于NVIDIA的并行编程模型CUDA构建的，TensorRT为深度学

OpenCV算法精解基于Python与C++

04-10

OpenCV是一个基于BSD许可（开源）发行的跨平台计算机视觉库...它轻量级而且高效——由一系列 C 函数和少量 C++ 类构成，同时提供了Python、Ruby、MATLAB等语言的接口，实现了图像处理和计算机视觉方面的很多通用算法。

python与c++交互样例代码

01-17

ubuntu下实现的在c++程序中调用python脚本的样例程序，可直接编译运行，需安装python-dev，供大家学习参考。修改后可在windows中使用

C++与python混合编程

10-17

在C++中使用boost和pybind11两种方式调用python脚本。

tensorrt c++ 推理项目

07-03

tensorrt c++ 推理示例项目，支持分类网络，比如alexnet，mobileone,skipnet等轻量级网络。...python生成tensorrt引擎步骤，可以查看我的博客： https://blog.csdn.net/jacke121/article/details/125382721

如何mysql数据导入到mongdb

codemami的博客

05-30

1204

由于MySQL和MongoDB的数据模型不同（例如，MySQL使用关系模型，而MongoDB使用文档模型），你可能需要转换数据的格式。使用MongoDB驱动程序：你也可以使用MongoDB的官方驱动程序（如Python的pymongo）来编写脚本，将数据直接插入到MongoDB中。注意：如果你的JSON文件包含多个文档，并且它们不是作为数组的一部分（即每个文档都在其自己的行上），则需要使用--jsonArray选项。手动转换：对于小型数据集，你可以手动编辑SQL或CSV文件，将其转换为JSON格式。

在linux服务器上使用tensorboard，错误记录

wwwwzm的博客

05-30

944

1. 使用tensorboard命令时，不是从虚拟环境中找tensorboard，而是从（全局路径）中找（/home/ljx/.local/lib/python3.9/site-packages/tensorboard）是一个在 Unix-like 系统（包括 Linux 和 macOS）的命令行界面（如 Bash shell）中使用的命令。2.使用which命令，查看使用的tensorboard的路径，发现使用的是全局路径，不是虚拟环境路径。是一个特殊的变量，它定义了操作系统搜索可执行文件的目录。

基于NANO 9K 开发板加载PICORV32软核，并建立交叉编译环境

“相关推荐”对你有帮助么？

非常没帮助
没帮助
一般
有帮助
非常有帮助

提交