win10部署TensorRT保姆级教程,耗时两天两夜惨痛的经验
效果展示: (最烂的那种显卡)
TensorRT加速前部署推理行人检测模型:(fps:6)
front
TensorRT加速后部署推理行人检测模型: (fps:30)
after
环境内容
- Tensorrt 8.4.1.5
- pycuda-cuda102-cp37
- Cuda 10.2 Cudnn 8.2.2
- python:3.7.1
请务必按照以上环境一一配置!
环境下载
Anaconda与Python3.7(带安装)
如果还有没有安装Anaconda与Python3.7的 小伙伴可以参考我这篇倾力之作哦:
TensorRT-8.4.1.5
这是一个TensorRT的链接https://developer.nvidia.com/nvidia-tensorrt-8x-download
Cuda-10.2
这是一个cuda的下载链接https://developer.nvidia.com/cuda-toolkit-archive
Cudnn-8.2.2
这是一个cudnn的下载链接https://link.csdn.net/?target=https%3A%2F%2Fdeveloper.nvidia.com%2Frdp%2Fcudnn-archive
pycuda-cuda102-cp37
这是一个pycuda的下载链接https://www.lfd.uci.edu/~gohlke/pythonlibs/#pycuda 打开是一个不是很好看的页面,需要一直下滑,直到找到pycuda。(安装英文字母排序:A-Z)
环境安装
TensorRT-8.4.1.5
windows cuda11.x cudnn8.x TensorRT8.x 环境配置_月光下的小白菜的博客-CSDN博客_cuda11 tensorrt
Cuda-10.2以及Cudnn-8.2.2
【CUDA】cuda安装 (windows版)_何为xl的博客-CSDN博客_windows安装cuda
pycuda-cuda102-cp37
pycuda安装与使用_丿啥都不懂的博客-CSDN博客_pycuda
C++
参考这个链接:
By Dockerhttps://github.com/NVIDIA/TensorRT/blob/main/docker/ubuntu-20.04.Dockerfile
完毕!
如果大家觉得本问有帮助到你的话,麻烦点赞+收藏一下喔,谢谢大家!