torch指定显卡and指定显卡仍无效

最新推荐文章于 2025-03-05 17:01:22 发布
最新推荐文章于 2025-03-05 17:01:22 发布
阅读量2k 收藏 1
点赞数
文章标签： pytorch 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43913077/article/details/120729421
版权

torch的一些初始化仍然要用第0块显卡，在代码中使用.cuda('cuda:1') 或者to.device('cuda:1') 时，torch仍然会用第0块显卡来初始化。
解决方法：
（1）该方法要在import torch 之前，更新版本也可能发生变化

import os 
os.environ['CUDA_VISIBLE_DEVICES'] = gpu_ids

(2) 在命令行中执行代码时指定

CUDA_VISIBLE_DEVICES=gpu_ids python3 train.py

说实话以上方法不一定哪一个有用。

酷暑冷冰
关注
解决使用torch.cuda.empty_cache()仍然GPU显存无法释放的问题
人工智能
03-13 1876
使用pytorch设置多线程（threads）进行数据读取（DataLoader），其实是假的多线程，他是开了N个子进程（PID都连着）进行模拟多线程工作，所以你的程序跑完或者中途kill掉主进程的话，子进程的GPU显存并不会被释放，需要手动一个一个kill才行.在开发的过程中，程序已经关闭，但是GPU显存无法释放，在使用pytorch写程序的时候,　有时候会在控制台终止掉正在运行的程序，但是有时候程序已经结束了，nvidia-smi也看到没有程序了，但是GPU的内存并没有释放，这是怎么回事呢？
使用在train中指定CUDA_VISIBLE_DEVICES=1无效
qq_42061298的博客
09-10 4449
我的train文件： import torch import os import torchvision from helpers import get_rays, sample_pdf, to8b, to_disp_img, img2mse, mse2psnr os.environ["CUDA_VISIBLE_DEVICES"]="1" def train(): return 0 train() 但是实际上发现训练还是在0卡上训的，后来查阅相关资料发现，我需要进行两步设置。 把 impo
pytorch, 指定显卡问题
chenran187906的博客
10-22 1066
在服务器上跑PyTorch的训练代码，原来一直都没有问题。但是重新安装cuda之后，无法指定在哪几块GPU上运行了，只能按照顺序从第0块开始使用。 解决方法：在 os 之后紧随指定显卡。（因为当导入 torch 库后，其已经调用显卡。） import os os.environ["CUDA_VISIBLE_DEVICES"] = "4,5,6,7" import torch Game Over! ...
在 PyTorch 中选择 GPU 进行训练的方法
dzxh2333的博客
03-05 541
在深度学习训练过程中，如果服务器有多张 GPU，我们通常需要指定某一块 GPU 进行训练，以优化资源利用率。本文介绍在 PyTorch 中选择 GPU 的多种方法。
pytorch训练时指定显卡
m0_61899108的博客
04-28 1万+
1. 利用CUDA_VISIBLE_DEVICES设置可用显卡 在CUDA中设定可用显卡，一般有2种方式： (1) 在代码中直接指定 import os os.environ['CUDA_VISIBLE_DEVICES'] = gpu_ids (2) 在命令行中执行代码时指定 CUDA_VISIBLE_DEVICES=gpu_ids python3 train.py 如果使用sh脚本文件运行代码，则有3种方式可以设置 (3) 在命令行中执行脚本文件时指定： CUDA_VISIBLE
pytorch设置指定哪张显卡运行代码，当多卡系统时，可以指定具体哪张卡跑代码
Bean的博客
05-30 1703
针对pytorch有效。其他设置指定显卡的方法，仅供参考
torch 指定显卡
billbliss的专栏
07-28 1814
torch.cuda.set_device()的优先级低：如果model.cuda()中指定了参数，那么torch.cuda.set_device()会失效，而且。2. shell中指定。3. 模型/参数中指定。
pytorch 指定卡1_在pytorch中为Module和Tensor指定GPU的例子
weixin_36352910的博客
01-30 359
pytorch指定GPU在用pytorch写CNN的时候，发现一运行程序就卡住，然后cpu占用率100%，nvidia-smi 查看显卡发现并没有使用GPU。所以考虑将模型和输入数据及标签指定到gpu上。pytorch中的Tensor和Module可以指定gpu运行，并且可以指定在哪一块gpu上运行，方法非常简单，就是直接调用Tensor类和Module类中的 .cuda() 方法。import ...
微调Yolov10 时出现指定gpu 失效问题
m0_68901066的博客
11-25 533
yolo 微调 gpu 指定 lora
linux(ubuntu16.04)安装cuda跑深度学习步骤以及踩坑过程（ELF标头无效、导入torch后torch.cuda.is_available()为False等等）
qq_40877575的博客
12-20 3998
linux(ubuntu16.04)安装cuda跑深度学习步骤以及踩坑过程（ELF标头无效、导入torch后torch.cuda.is_available()为False等等）pytorch无法调用gpu的解决方法
pytorch之多GPU使用——#CUDA_VISIBLE_DEVICES使用 #torch.nn.DataParallel() #报错解决
热门推荐
夏普通
06-14 9万+
文章目录1. 使用所有存在的显卡2. 指定编号使用显卡3. os.environ["CUDA_VISIBLE_DEVICES"]详解3.1. ["CUDA_VISIBLE_DEVICES"]使用3.2. 关于设置["CUDA_VISIBLE_DEVICES"]无效的解决4. torch.cuda主要函数4.1. torch.cuda.is_available()判断GPU是否可用4.2. torch.cuda.device_count()查看可用GPU数量4.3. torch.cuda.current_de
Torch之CUDA使用指定显卡
Nicola.Zhang
05-29 2万+
改变系统环境变量仅使目标显卡,编辑 .bashrc文件，添加系统变量 export CUDA_VISIBLE_DEVICES=0 #这里是要使用的GPU编号，正常的话是从0开始 使用torch.cuda接口函数 #在生成网络对象之前： torch.cuda.set_device(0) 运行文件之前指定显卡 CUDA_VISIBLE_DEVICES=7 python ret...
Pytorch模型训练指定显卡
木槿qwer的博客
10-22 4876
pytorch模型训练指定显卡
pytorch使用过程中指定显卡训练
zhingzt的博客
09-18 3366
目录 1 指定单块显卡进行训练 1.1 默认的0号显卡 1.2 使用其他显卡，例如1号或其他
pytorch加载模型指定GPU卡号报错或者指定失败
jmhIcoding
11-22 2779
根据pytorch的文档，在加载模型的时候，可以指定将模型的tensor加载到特定目标GPU上。 加载方法有： >>> torch.load('tensors.pt') # 1. Load all tensors onto the GPU 0 >>> torch.load('tensors.pt', map_location=torch.device('cuda:0')) # 2. Load all tensors onto GPU 1 >>> torc
Pytracking框架算法不能设置默认显卡(cuda)问题
qq_44637477的博客
03-14 318
这个错误通常是由于在CUDA中访问不允许访问的内存地址引起的。可能是代码在GPU上执行期间尝试访问超出GPU内存范围的某个位置。原始代码指定显卡位置在ltr/trainers/base_trainer.py。故不建议直接修改CUDA。
pytorch指定gpu序号不起作用
暖树的博客
11-06 746
import os os.environ['CUDA_VISIBLE_DEVICES'] = '1' 要放在 import torch 的前面 TensorFlow 同理
CUDA指定显卡时出现的问题及解决
asd123pwj的博客
03-19 980
文章首发及后续更新：https://mwhls.top/3718.html，无图/无目录/格式错误/更多相关请至首发页查看。 新的更新内容请到mwhls.top查看。 欢迎提出任何疑问及批评，非常感谢！ 目录 1. 错误信息 2. 场景描述 3. 解决方法 4. 说明 5. 参考 错误信息RuntimeError: Expected tensor for argument #1 ‘input’ to have the same device as tensor for argument
CUDA无法使用NVIDIA显卡
Burger_的博客
08-07 3004
解决CUDA只用Intel集显而无法使用NVIDIA显卡
5090显卡在whisper不能使用
最新发布
03-10
<think>嗯，用户遇到了NVIDIA 5090显卡在Whisper环境中无法使用的问题。首先，我得考虑可能的原因。通常，新显卡刚发布时，驱动和软件支持可能还不完善。Whisper依赖PyTorch或TensorFlow，这些框架需要对应的CUDA版本支持。如果5090是新一代的显卡，可能需要更新的CUDA版本，而用户当前的PyTorch可能还没适配。 接下来，我应该检查用户是否安装了适合的显卡驱动。最新的显卡通常需要最新的驱动版本，比如535以上。然后，CUDA工具包是否兼容5090？如果NVIDIA还没有为5090发布对应的CUDA版本，用户可能需要等待更新。另外，PyTorch或TensorFlow可能尚未添加对该显卡的支持，可能需要从源码编译或者使用nightly版本。 用户的环境配置也需要检查，比如是否正确安装了CUDA和cuDNN，环境变量是否设置正确。虚拟环境有时候会出问题，比如路径错误，导致框架找不到CUDA库。此外，Whisper本身是否有已知的兼容性问题，或者用户是否安装了正确的版本？可能需要升级Whisper到最新版，或者查看GitHub上的issue。 还有，用户是否尝试过强制使用CUDA？比如在代码中指定device为cuda:0。有时候框架可能默认使用CPU，需要显式启用GPU。另外，运行一个简单的PyTorch测试脚本，比如创建张量并转移到GPU，可以确认是否是框架层面的问题。 最后，如果以上步骤都无效，可能需要联系NVIDIA支持，或者等待框架和驱动更新。同时，用户也可以尝试使用Docker镜像，有些预配置的环境可能已经包含必要的依赖。</think>### 解决方案：NVIDIA 5090显卡在Whisper环境下无法使用的问题 #### 1. 确认显卡驱动兼容性 - **步骤**：检查NVIDIA驱动版本是否支持RTX 5090（建议535.xx或更高版本） - **代码验证**： ```bash nvidia-smi # 输出右上角显示Driver Version ``` - **说明**：若驱动版本过旧，需从[NVIDIA官网](https://www.nvidia.com/Download/index.aspx)下载最新驱动[^1] #### 2. 验证CUDA工具链兼容性 - **步骤**：确认CUDA版本与RTX 5090的架构匹配 - **关键命令**： ```bash nvcc --version # 查看CUDA编译器版本 cat /usr/local/cuda/version.txt ``` - **注意**：若使用conda虚拟环境，需检查环境内CUDA版本与系统级CUDA的兼容性[^2] #### 3. PyTorch/TensorFlow适配性处理 - **推荐方案**： ```bash # 安装PyTorch nightly版本（含新架构支持） pip install --pre torch torchaudio -f https://download.pytorch.org/whl/nightly/cu121/torch_nightly.html ``` - **验证代码**： ```python import torch print(torch.cuda.is_available()) # 应输出True print(torch.cuda.get_device_name(0)) # 应显示RTX 5090 ``` #### 4. Whisper版本强制配置 - **环境变量设置**： ```bash export WHISPER_CUDA_FORCE=1 # 强制启用CUDA加速 export PATH=/usr/local/cuda-12.1/bin:$PATH # 显式指定CUDA路径 ``` - **版本升级建议**： ```bash pip install git+https://github.com/openai/whisper.git # 安装最新开发版 ``` #### 5. Docker容器化方案 - **推荐镜像**： ```dockerfile FROM nvcr.io/nvidia/pytorch:23.09-py3 RUN pip install git+https://github.com/openai/whisper.git ``` - **启动命令**： ```bash docker run --gpus all -it --rm whisper-container ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值