Yolov5的3种tensorRT加速方式及3090测评结果(C++版和Python torchtrt版)
本文中,我想测评下tensorRT,看看它在不同方式下的加速效果。用Tensorrt加速有两种思路,一种是构建C++版本的代码,生成engine,然后用C++的TensorRT加速。另一种是用Python版本的加速,Python加速有两种方式,网络上基本上所有的方法都是用了C++生成的engine做后端,只用C++来做前端,这里我提供了另外一个用torchtrt加速的版本。一、安装Tensorrt参考教程所有工程前最苦恼的问题,配置环境。。以下是我参考的连接。1、安装可以通过tar或者deb安装h
原创
2021-10-08 15:41:17 ·
19808 阅读 ·
18 评论