Windows WSL2中使用 AMD 显卡的 GPU (ROCm) 加速运行 PyTorch 大模型

coding....

已于 2024-12-31 17:38:10 修改

阅读量5.6k

点赞数 7

文章标签： windows pytorch 人工智能

于 2024-12-11 23:32:41 首次发布

本文链接：https://blog.csdn.net/qq_41896122/article/details/144411970

版权

环境准备

Windows 11 WSL2 (Ubuntu 22.04.5)
AMD 显卡驱动 24.6.1及以上版本（本文以7900XTX为案例）
科学上网（自行研究）

首先是根据 AMD官网进行安装ROCm

需要注意的是这里只能安装该版本的 amdgpu-install

sudo apt update
wget https://repo.radeon.com/amdgpu-install/6.2.3/ubuntu/jammy/amdgpu-install_6.2.60203-1_all.deb
sudo apt install ./amdgpu-install_6.2.60203-1_all.deb

进行ROCm安装, 如果上面安装的不是这个版本的amdgpu-install,这里则会安装ROCm失败

amdgpu-install -y --usecase=wsl,rocm --no-dkms

检测是否安装成功

#一般显示显卡的信息则是安装成功，如下图
rocminfo

在这里插入图片描述

安装PyTorch

接下来安装适合ROCm的 PyTorch

#安装python
sudo apt install python3-pip -y
pip3 install

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

coding....

关注关注

7
点赞
踩
30

收藏

觉得还不错? 一键收藏
5
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

加速 PyTorch 模型：使用 ROCm 在 AMD GPU 上应用 torch.compile

数字人生

08-31

3019

PyTorch 2.0 引入了一个名为**的工具，可以极大地加速 PyTorch 代码和模型。通过将 PyTorch 代码转换为高度优化的内核，`torch.compile` 在现有代码库上进行最小化修改即可提供显著的性能提升。此功能允许精确优化单个函数、整个模块以及复杂的训练循环，提供了一个多功能且强大的工具来提高计算效率。在这篇博客中，我们将演示如何在 AMD GPU 上使用 ROCm 和加速各种实际模型。

LLMs之LLaMA-2：基于text-generation-webui工具来本地部署并对LLaMA2模型实现推理执行对话聊天问答任务(一键安装tg webui+手动下载模型+启动WebUI服务)、同

头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀

08-20

3278

LLMs之LLaMA-2：基于text-generation-webui工具来本地部署并对LLaMA2模型实现推理执行对话聊天问答任务(一键安装tgwebui+手动下载模型+启动WebUI服务)、同时微调LLaMA2模型(采用Conda环境安装tgwebui+PyTorch→CLI/GUI下载模型→启动WebUI服务→GUI式+LoRA微调→加载推理)之图文教程详细攻略目录基于Text generation web UI工具实现对话聊天大模型应用一、本地部署实现推理

5 条评论您还未登录，请先登录后发表或查看评论

Windows WSL环境下安装 pytorch +ROCM 支持AMD显卡

znsoft的专栏

10-28

3309

windows 下安装WSL 环境( windows subsystem for Linux), 安装ubuntu 22.04环境。安装好后，创建pytorch环境，注意，只支持python 3.10。三、安装pytorch+rocm。安装pytorch +rocm。二、安装anaconda。

AMD显卡(RX6750gre)+ubuntu22.04搭配Anaconda部署ROCM环境以及pyTorch框架

weixin_45312538的博客

04-06

1803

如果你还没有购买显卡，想学习AI方面，并且资金充足的情况下。目前不管是PyTorch还是TensorFlow对N卡在CUDA的支持方面都远远的高于AMD的ROCM。还有很关键的一点就是，的，即使AMD新推出的显卡在windows上使用，也是基于wsl2在windows上安装子系统，用的一样是linux命令符。的，选显卡的时候一定要慎重。如果你是和标题一样，使用的AMD 6750gre这张显卡，那上面的链接你就不用去看了，因为对于AMD对于这在中低端的卡，是没有ROCM支持的。

ROCmLibs：让“不受支持”的AMD GPU在Windows上焕发新生

gitblog_00881的博客

04-01

923

ROCmLibs：让“不受支持”的AMD GPU在Windows上焕发新生 ROCmLibs Prebuilt Windows ROCm Libs for gfx1031 and gfx1032 项目地址: https://git...

AMD显卡ROCM各类教程都没有说的问题和细节

weixin_49890258的博客

12-30

681

AMD ROCM

wsl中ollama不能使用gpu加速

SecularBird的专栏

04-20

2361

导致的原因可能是机器休眠过了， wsl的虚拟机不知道如何重连gpu修改正方法是重启wsl，之前还能有gpu加速的，突然一次发现不能加速了, 启动之后发现只能用cpu了。

wsl2 ubuntu子系统安装显卡驱动与cuda

m0_61069946的博客

03-25

7082

执行nvidia-smi命令查看英伟达显卡信息，如果没有安装驱动会提示安装，开始安装默认源里面的最新版。安装ubuntu 命令：wsl --install -d Ubuntu-22.04。再次执行nvidia-smi 命令看是否能看到显卡信息，如何能看到则安装成功。安装命令：apt install nvidia-utils-535。列出可安装的子系统命令：wsl --list --online。执行nvcc -V 能看到版本信息说明安装成功。选好后下面会提供安装方法一条一条执行即可。

Windows WSL子系统Ubuntu22.04安装Nvidia显卡驱动

Linux I Tell U

06-20

2万+

最近在研究AI，如果在Linux系统中部署的话需要重装系统，有些麻烦，又不想折腾。所以闲置很久没研究的WSL又拿起来研究了，当然部署ai还需要显卡驱动的支持，就必须先安装显卡驱动。还没有安装过WSL的童鞋可以看我之前发布的这篇文章。

win11下AMD CPU支持WSL2

dbitc的博客

10-07

812

2.打开hyper-v。3.bios启用虚拟机。

WSL2 使用主机显卡配置

Zyh's blog

03-10

614

【代码】WSL2 使用主机显卡配置。

Windows下AMD显卡在本地运行大语言模型(deepseek-r1)

wstc2689784536的博客

02-08

2492

Windows下AMD显卡在本地运行deepseek-r1:14b

WSL2端配置pytorch GPU加速环境

小星AI

01-25

6330

配置好WIn10的Linux子系统WSL2的GPU加速深度学习，我踩坑踩得头皮发麻

我是Windows11的AMD显卡

热门推荐

weixin_44029053的博客

11-27

3万+

在 WSL2 中使用 NVIDIA Docker 进行全栈开发和深度学习 TensorFlow pytorch GPU 加速

JamesCurtis的博客

08-27

3572

本文介绍了如何在 Windows Subsystem for Linux 2 (WSL2) 环境中使用 NVIDIA Docker 进行全栈开发和深度学习。WSL2 提供了一个强大的 Linux 环境，而 NVIDIA Docker 则允许在该环境中利用 NVIDIA GPU 进行加速的深度学习任务。文章首先介绍了安装和配置 WSL2 及其与 Windows 系统的集成，包括透明的文件系统访问和网络设置。随后，阐述了如何在 WSL2 中安装和配置 NVIDIA Docker，使得容器可以直接访问主机的 GP

windows配置wsl，Unbuntu启动GPU加速

u014196765的博客

08-28

2317

wsl全称Windows Subsystem for Linux，windows电脑下的linux子系统，对于想用Linux的Windows用户来说wsl是一个不错的选择。

wsl2 可以跑gpu深度学习吗

03-17

<think>嗯，用户想知道WSL2能不能跑GPU深度学习。我先回忆一下WSL2是什么，它和WSL1的区别主要在系统调用和内核上。WSL2使用完整的Linux内核，这样对硬件支持应该更好。然后，GPU支持方面，微软和NVIDIA合作，记得有官方文档提到过支持CUDA。需要确认一下支持的版本，比如Windows版本、驱动版本，还有WSL2的CUDA Toolkit版本。接下来要考虑用户的环境，比如是否使用NVIDIA显卡，因为AMD可能支持不同。然后安装步骤大概需要安装预览版的Windows Insider版本，然后在WSL2里安装驱动和CUDA工具包。可能还需要配置环境变量，安装cuDNN之类的库。可能用户会遇到的问题，比如驱动不兼容，或者WSL2的版本问题，需要提醒用户检查这些。另外，性能方面，虽然WSL2支持GPU加速，但和原生Linux相比可能会有性能损耗，需要提及。还有TensorFlow、PyTorch这些框架是否支持在WSL2下运行，可能需要特定的版本或者配置。最后，用户如果是刚接触的话，可能需要一些具体的步骤指导，比如链接到官方文档或者教程。确保回答结构清晰，分步骤说明可行性和注意事项，以及可能的限制。</think>当然可以！WSL2（Windows Subsystem for Linux 2）现已支持GPU加速的深度学习任务。以下是具体实现条件和步骤说明： --- ### **一、可行性条件** 1. **硬件要求** - NVIDIA显卡（需支持CUDA，例如RTX 20/30/40系列或更高） - Windows 10版本 **2004及以上** 或 Windows 11 - 已安装最新版 **NVIDIA显卡驱动**（需包含WSL2支持） 2. **软件配置** - 启用WSL2并安装Linux发行版（如Ubuntu 20.04/22.04） - 安装 **NVIDIA CUDA Toolkit for WSL2**（推荐版本≥11.7） - 深度学习框架（如PyTorch/TensorFlow）需适配WSL2环境 --- ### **二、具体步骤** #### **1. 配置Windows环境** - 开启WSL2功能： ```powershell wsl --install wsl --set-default-version 2 ``` - 在Windows中安装 **NVIDIA驱动**：从官网下载并选择 **“Windows Driver for WSL”** 版本。 #### **2. 配置Linux环境** - 在WSL2中安装CUDA Toolkit： ```bash wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600 sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/3bf863cc.pub sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/ /" sudo apt-get update sudo apt-get -y install cuda ``` - 验证CUDA安装： ```bash nvcc --version # 应输出CUDA版本 nvidia-smi # 查看GPU状态 ``` #### **3. 安装深度学习框架** - **PyTorch**（示例）： ```bash pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 ``` - **TensorFlow**（示例）： ```bash pip install tensorflow[and-cuda] ``` --- ### **三、性能与限制** - **性能对比**：WSL2 GPU加速性能接近原生Linux，但存在约 **5-10%** 的损耗（因I/O虚拟化开销）。 - **限制**： - 仅支持NVIDIA显卡（AMD ROCm暂未官方支持WSL2）。 - 需使用 **Windows Insider预览版** 或最新稳定版系统。 --- ### **四、验证示例代码** 在Python中运行以下代码测试GPU是否生效： ```python import torch print(torch.cuda.is_available()) # 应输出True ``` --- ### **五、参考链接** - [NVIDIA官方WSL2指南](https://developer.nvidia.com/cuda/wsl) - [微软WSL2文档](https://learn.microsoft.com/zh-cn/windows/wsl/install) 通过以上配置，即可在WSL2中流畅运行PyTorch、TensorFlow等深度学习框架的GPU加速任务。