【YOLO】yolov5+TensorRT推理

YOLO系列学习

上一章【YOLO】添加注意力机制（SE、CBAM、ECA、CA）

---

---

前言

TensorRT 是由英伟达公司推出的一款用于高性能深度学习模型推理的软件开发工具包，该软件开发工具包中包含了应用程序运行时环境和深度学习模型推理优化器，TensorRT 是采用 C++语言编写的高性能推理框架，可以在所有平台上提供 C++语言的实现，并且也能在 Linux 平台上提供 Python 语言的实现。同时，TensorRT 推理应用程序与英伟达的 GPU 结合可以提供最大的吞吐量和较低的延迟速度。TensorRT 已经支持对常用的深度学习框架（例如，PyThorch、TensorFlow 等）训练出来的网络模型进行优化。

---

一、TensorRT 工具包安装

1.1 查看本机系统版本、cuda、cudnn版本

1、查看系统版本
uname -a