TensorRT综述
- 简介:英伟达推出的基于NVIDIA显卡、面向深度学习算法的推理加速引擎~
- 一套由 C++ 、Python 、CUDA 联合编写的加速库
- 加速效果优于 仅使用CUDA
- 后续补充空间: …
1.目录整理
- TensorRT详细入门指北,如果你还不了解TensorRT,过来看看吧!
- 官网下载 :https://developer.nvidia.com/nvidia-tensorrt-download
- github仓库: https://github.com/NVIDIA
- https://github.com/NVIDIA/TensorRT
- trtexec可以从 Caffe、UFF 或 ONNX 格式的模型构建引擎,进行推理。
- TensorRT 快速入门使用教程
- 简介及快速使用教程:onnx2trt 、导入与推理
- https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html#trtexec
- https://github.com/NVIDIA/TensorRT/tree/main/samples/trtexec