文章目录
源码下载
https://gitee.com/yang_guo123/yolox_tensorrt
才疏学浅,若有不足之处请大家指出,喜欢的话可以点个star
一、整体实现方法
1.部署流程
在深度学习部署过程中,流程如下所示:
1、采集工程所需训练数据
2、通过pytorch、tensorflow等深度学习框架训练网络
3、将训练好的网络导出onnx格式文件
4、通过深度学习部署框架对onnx文件进行部署
2.TensorRT的安装
TensorRT是英伟达开发的一个深度学习推理框架,在N卡上具有较好的性能,在安装时,首先打开TensorRT主页(https://developer.nvidia.com/tensorrt),登录英伟达账号,并下载tensorrt8,在这里我使用的是8.2.4.2版本。
将下载的文件解压到自己的路径当中(注意:路径当中最好不带中文字符),接下来设置环境变量,将TensorRT主目录中的lib添加到环境变量当中,由于之后会使用trtexec工具,建议将bin文件夹也加入环境变量。
这时TensorRT的主体部分已经安装完成,接下来安装tensorrt在python中的库。
首先在anaconda当中创建一个tensorrt的环境,并使用pip安装pycuda库,用于调用GPU。
然后打开tensorrt主目录下的python文件夹,其中有python3.6-3.9的安装包,选择适合的安装包进行安装。
<