【教程】Install NVIDIA TensorRT on WSL 在WSL上安装英伟达TensorRT

已于 2024-06-24 10:42:01 修改
阅读量1.5k 收藏 19
点赞数 36
CC 4.0 BY-SA版权
文章标签： ubuntu linux 运维
于 2024-06-21 15:06:39 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Observer_0987/article/details/139860758

【教程】Install NVIDIA TensorRT on WSL 在WSL上安装英伟达TensorRT

NVIDIA® TensorRT™ 是一个用于高性能深度学习推理的 API 生态系统。TensorRT 包括推理运行时和模型优化，可为生产应用提供低延迟和高吞吐量。TensorRT 生态系统包括 TensorRT、TensorRT-LLM、TensorRT Model Optimizer 和 TensorRT Cloud。

本教程参照NVIDIA官网TensorRT安装教程展示如何在安装有WSL2 Ubuntu-22.04的windows11系统上安装英伟达TensorRT

I. 环境

  • 具有NVIDIA GPU
  • windows已安装NVIDIA driver
  • 系统为windows11 安装了 WSL2 Ubuntu 22.04
  • 理论上来说，如果windows上具有NVIDIA driver，wsl不需要再安装
  • 通过nvidia-smi查看系统cuda版本，此处为12.4

nvidia-smi

II. 流程

本教程参照NVIDIA官网TensorRT安装教程编写

  • 安装CUDA
  • 安装cuDNN
  • 安装TensorRT

III. CUDA安装

在NVIDIA官网TensorRT安装教程里选择与通过nvidia-smi中显示的一致的CUDA版本，本教程采用CUDA 12.4

最低0.47元/天 解锁文章

200万优质内容无限畅学
admin-init
关注
WSL 安装 NVIDIA显卡驱动
小白的博客
10-08 2608
最近在研究一些 AIGC 工具,由于 Windows 加入了 WSL 之后的各种特性,本文记录一下如何在 WSL 的 Linux发行版 中安装 NVIDIA 显卡驱动的步骤,本文以 WSL 下的 Ubuntu 22.04 发行版为例;
wsl-ubuntu配置cuda-tensorrt开发环境
dong_junjun的博客
03-17 1007
WSL ubuntu20配置CUDA-CUDNN-TensorRT 官方安装cuda wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600 sudo apt-key adv --fetch-keys https:
安装 TensorRT
weixin_41046245的博客
12-20 4642
此外，如果您已经安装了 TensorRT C++ 库，请使用 Python 包索引版本将安装此库的冗余副本，该库 可能不可取。上面的命令将拉入所有必需的 CUDA 来自 PyPI 的 Python wheel 格式的库和 cuDNN，因为它们是 TensorRT Python wheel 的依赖关系。此外，如果您有以前的 已安装的版本。如果前面的 Python 命令有效，那么您现在应该能够运行 任何 TensorRT Python 示例，以进一步确认您的 TensorRT 安装正在工作。
在WSL中的Ubuntu发行版上安装Anaconda、CUDA、CUDNN和TensorRT
最新发布
qq_39697468的博客
05-17 1032
本文详细介绍了在Windows 11的WSL（Windows Subsystem for Linux）环境中安装Anaconda、CUDA、CUDNN和TensorRT的步骤。首先，确保电脑已安装NVIDIA驱动，并通过WSL安装Ubuntu。接着，依次安装Anaconda、CUDA 12.4、CUDNN 8.9.7和TensorRT 9.1.0及以上版本。每个步骤包括下载、安装、设置环境变量和验证安装的详细命令。此外，还提供了NVIDIA驱动的卸载方法。通过本文，用户可以在WSL环境中成功配置深度学习开发
win11+wsl2+ubuntu18配置TensorRT
Dashi_Lu的博客
06-05 2097
windows11上wsl2+TensorRT环境搭建
Windows WSL子系统Ubuntu22.04安装Nvidia显卡驱动
热门推荐
Linux I Tell U
06-20 2万+
最近在研究AI，如果在Linux系统中部署的话需要重装系统，有些麻烦，又不想折腾。所以闲置很久没研究的WSL又拿起来研究了，当然部署ai还需要显卡驱动的支持，就必须先安装显卡驱动。还没有安装过WSL的童鞋可以看我之前发布的这篇文章。
WSL2 NVIDIA Docker 安装教程
aaada123的博客
10-06 2508
wsl docker nvidia gpu 环境搭建
win10安装wsl2(ubuntu20.04)并安装 TensorRT-8.6.1.6、cuda_11.6、cudnn
heshiyuan1406146854的博客
08-16 1276
Distribution 选择 ubuntu( 我看很多博客是选择的wsl ubuntu，但是我选择ubuntu后面经过测试也是没问题的 )、1. 找一个可以访问到 微软商店的电脑，下载 ubuntu20.04 的镜像，例如：ubuntu2004.zip，解压，双击里面的 ubuntu2004.exe 即打开 ubuntu20.04 的 terminal 控制台。4. 取消勾选 driver( 如果有的话 ) --》 点击 install // 执行是不显示进度，不要以为死机了。
retinaface在ubuntu20.04(wsl2)下使用tensorrt(c++)部署
heshiyuan1406146854的博客
08-16 979
2. github上 Retinaface_Tensorrt 仓库中的操作指南中作者是举的在 windows 上使用 vs ide来编译的例子，使用的是 CMakeLists.txt( 是给 window环境使用的 )，还有一个 CMakeLists_linux.txt，我使用的是后者，但是会有一个坑，就是当头文件、库文件的问题都解决好以后，会碰到一个在 /data/code/c_code/Retinaface_Tensorrt/retina_mnet.cpp 和。
如何在WSL2安装CUDA
weixin_41446370的博客
06-12 683
Windows 11 和 Windows 10 版本 21H2 支持在 Windows Subsystem for Linux (WSL) 实例中运行使用英伟达™ CUDA 进行 GPU 硬件加速的现有 ML 工具、库和流行框架。这包括 PyTorch 和 TensorFlow，以及原生 Linux 环境中可用的所有 Docker 和英伟达容器工具包支持。
【TensorRT】NVIDIA TensorRT 安装 (Windows C++)
grape_yan的博客
10-14 6060
NVIDIA TensorRT™ 是用于高性能深度学习推理的 SDK，可为深度学习推理应用提供低延迟和高吞吐量。基于 NVIDIA TensorRT 的应用程序在推理过程中的执行速度比仅使用 CPU 的平台快 36 倍，使开发人员能够优化在所有主要框架上训练的神经网络模型，以高精度校准以降低精度，并部署到超大规模数据中心、嵌入式平台或汽车产品平台。
Win11基于WSL2安装CUDA、cuDNN和TensorRT（2023-03-01）
Apple_Coco的博客
03-02 7490
之前我写了一篇博客：[Win11安装WSL2和Nvidia驱动](https://blog.csdn.net/Apple_Coco/article/details/128374634)，记录了在WSL2里安装CUDA，当时我选择了第二种安装方式，即用WSL2里的MiniConda去安装的PyTorch和CUDA等相关库，最近在使用中发现了这种方式的不足
win11 WSL ubuntu安装CUDA、CUDNN、TensorRT最有效的方式
qq_40102732的博客
12-24 1万+
WSL ubuntu安装CUDA、CUDNN、TensorRT最有效的安装，避坑指南，亲测可行
【记录】在WSL2上安装cuDNN和TensorRT
weixin_45628358的博客
04-28 545
[记录]在WSL2安装cuDNN和TensorRT
win11 WSL2 Linux yolov8 tensorrt模型部署
xiangxiang2017的博客
04-16 884
电脑是win11,上面有张3060显卡，想使用它做深度学习方面的事，一般开发都是在linux上，不想把电脑装成linux系统，vmware中的虚拟机又不能使用GPU，经过一番搜索发现有一种叫WSL的技术可以解决我的问题，简单来说WSL是windows上的一种虚拟化技术，它可以让你在windows中运行linux系统，就像vmware那样，重点是它可以使用GPU。
【TensorRT】TensorRT环境安装
浩瀚之水的专栏
10-11 4729
本文操作均在Win10系统上完成，需要用到的软件与依赖包有：cuda 10.2 , cudnn 8.6.5 , VS2017 , OpenCV 4.0.0 , Anaconda3 , CMake 3.10.1 , TensorRT 8，pytorch通过英伟达官网来确认显卡驱动与CUDA版本对应关系，，基本上所有的版本cuda都能支持通过pytorch官网来确认也可以通过pytorch官网查询选择cudnn版本时要优先考虑tensorrt版本。
tensorrt的安装和使用
zhuikefeng的博客
09-21 3486
提前安装好和，登录 NVIDIA 官方网站下载和主机 CUDA 版本适配的 TensorRT 压缩包即可。以 CUDA 版本是 10.2 为例，选择适配 CUDA 10.2 的。
1.Windows11下安装WSL2子系统、Nvidia驱动、CUDA Toolkit（2024-07）
07-04 3849
本文主要介绍在Windows11上如何安装Ubuntu子系统，以及安装Nvidia驱动和CUDA Toolkit，为运行开源大模型做准备。
win10 wsl2 cuda opencv tensorrt安装与clion pycharm环境配置(一)
weixin_42479327的博客
02-21 897
自己电脑装的是windows系统，公司电脑也是win系统，可是平时的模型训和部署却是在linux服务器上进行。使用pycharm和vscode,clion可以连接远程解释器开发，又会涉及时更新延迟等问题。能否在不装linux系统情况下, 也能使用linux环境做研发呢?因为要使用gpu，所以不能使用vmvare虚拟机，因为不能显卡透传。这里我使用WSL2技术,在win10环境下搭建linux开发环境wsl2最低版本要求是 Windows 10 version 1903 及更高。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值