Pytorch死活要用第0块显卡（Pytorch设置使用服务器第几张卡）

已于 2024-01-17 01:52:50 修改
阅读量538 收藏 9
点赞数 7
文章标签： pytorch 人工智能 python
于 2024-01-15 15:28:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_45871473/article/details/135602799
版权

解决：指令运行前设置环境变量 （适用于多卡训练）

在输入训练指令前加上CUDA_VISIBLE_DEVICES=1,2，即设置环境变量，程序只“看得见”第1、2块显卡，自然就不需要在使用第0块显卡了。但是有一个问题是，在设置环境变量之后，第1、2块显卡在程序的眼里就变成了第0、1块显卡，在后续使用中需要注意序号的问题，不然会出现invalid device ordinal的错误。使用成本最小，绝对不会出现cuda0在被禁用的情况下被调用的情况。

CUDA_VISIBLE_DEVICES=1,2 python train.py
打怪升级^_^
关注
  • 7
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在Linux远程服务器上设置PyTorch的GPU版本
01-16
在Linux远程服务器上设置PyTorch的GPU版本是一项常见的任务，特别是在进行深度学习项目时，GPU的加速能力是必不可少的。PyTorch是一个强大的开源机器学习库，支持Tensor计算和动态神经网络，广泛应用于科研和工业界...
pytorch for ROCM 安装包，amd显卡
10-18
pytorch for ROCM 安装包whl , 支持ubuntu 18.04及以上系统， amd Radeon Vii 显卡。 里面带配置手册（rocm分版本安装方法)
Pytorch 0号卡占用问题
weixin_43509263的博客
01-07 2150
RuntimeError: cuda runtime error (2) : out of memory at /opt/conda/conda-bld/pytorch_1587428266983/work/aten/src/THC/THCCachingHostAllocator.cpp:278 如上，我们在跑程序时经常会遇到这种情况，除了常规的因为模型参数量或计算量过大导致的问题，还有一种经常的情况下是因为0号显卡显存不足，导致显存空间分配不足，从而提示报错。很多人有一个疑问就是，为什么我们明明指定的是
python运行程序设置指定GPU(查看GPU使用情况)
热门推荐
LJC的博客
07-17 3万+
常见的两种使用方式如下： 一、python文件里设置指定GPU 一般情况： import os os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" （保证程序cuda序号与实际cuda序号对应） os.environ['CUDA_VISIBLE_DEVICES'] = "0,1" （代表仅使用第0，1号GPU） 单GPU： os.environ["CUDA_VISIBLE_DEVICES"] = "2"###代表只使用第3个gpu 而没设置的时候一般会只用第
不管怎么指定pytorch都使用gpu0进行训练解决方法
qq_35037684的博客
06-09 5165
这个问题困惑了我好久，不管怎么指定，程序中用的 os.environ['CUDA_VISIBLE_DEVICES'] = '1,2' 并不管用 最后都显示 RuntimeError: CUDA out of memory. Tried to allocate 158.00 MiB (GPU 0; 11.17 GiB total capacity; 556.72 MiB already allocated; 26.06 MiB free; 17.28 MiB cached) 真的是很泪奔了，最后查到，pyto
pytorch设置指定哪张显卡运行代码，当多卡系统时，可以指定具体哪张卡跑代码
Bean的博客
05-30 1364
针对pytorch有效。其他设置指定显卡的方法，仅供参考
CUDA 指定设备的方法，CUDA_VISIBLE_DEVICES 设置当前pytorch程序使用那些GPU设备
白袍小将的博客
12-12 1万+
​ 当服务器有多个GPU卡时，通过设置CUDA_VISIBLE_DEVICES环境变量可以改变CUDA程序所能使用的GPU设备，默认情况下：标号为0的显卡为主卡。
【记录】Linux系统 pytorch使用其他显卡的方法
u013928277的博客
10-10 152
例如：指定id为‘2，4’显卡，那么后文代码中第一张显卡为‘cuda:0’，第二张显卡为‘cuda:1’；解决即使指定显卡，Pytorch仍在cuda:0上训练出现内存不够的问题。再如：指定id为‘3’的显卡，后文代码中的显卡号为‘cuda:0’.2、无论之前显卡的id是什么，要及时更新后续的代码段。引号里的数字代表显卡号。本篇主要详述用这个方法。
在CentOS远程服务器上设置PyTorch 1.5.1的CPU版本环境
01-16
在搭建远程服务器上的PyTorch 1.5.1 CPU版本环境时，首先需要确保服务器配置得当，这里我们以CentOS系统为例。通常，远程服务器可以通过SSH客户端工具如Xshell来连接，Xshell提供了安全的Shell访问，方便进行远程...
机器学习，pytorch英伟达显卡驱动，cndann，适用于cuda12.1以上
04-29
在机器学习领域，PyTorch是一款非常流行的深度学习框架，由Facebook开发并开源。它以其易用性、灵活性和强大的功能而备受青睐。英伟达（NVIDIA）的显卡驱动则是运行PyTorch等GPU加速计算的重要组件，因为GPU在处理...
Win11系统/RTX30系列显卡——安装gpu版pytorch完整教程
05-15
Win11系统/RTX30系列显卡——安装gpu版pytorch完整教程 本教程旨在指导用户在 Win11 系统和 RTX30 系列显卡上安装 GPU 版本的 PyTorch。PyTorch 是一个流行的机器学习框架，广泛应用于自然语言处理、计算机视觉、...
PYTorch训练和推理 指定GPU
黎国溥
03-21 2512
在训练模型和推理测试时，电脑中有多个显卡，需要指定某个GPU，以免出现显出不够问题。
pytroch指定显卡使用
bank777777的博客
03-22 888
项目场景： 用os指定pytorch走第n块GPU import os os.environ['CUDA_VISIBLE_DEVICES'] = '1,2'
torch 指定显卡
billbliss的专栏
07-28 1542
torch.cuda.set_device()的优先级低：如果model.cuda()中指定了参数，那么torch.cuda.set_device()会失效，而且。2. shell中指定。3. 模型/参数中指定。
pytorch配置双显卡，使用双显卡跑代码
m0_63092821的博客
06-12 5676
Linux系统，pytorch环境。
使用torch完成多卡训练
最新发布
Edward__J的博客
05-09 1370
因为我这个gpu进程得到的是这个进程上数据的loss，比如我有四张卡，第一张卡上batch size有64个数据，会产生一个loss，但是四张卡按理来说是256的batch size，我们的做法应该是把四张卡的loss加起来除以四。我不太懂，希望有明白的佬提点一下。第一个是torch.utils.data.DistributedSampler，这函数的就是给不同的gpu分配不通的数据，简单来说就是把编号1，3，5，...的数据分给gpu0，2，4，8，...分给gpu2等等，这一步只是把索引给分好。
解决已经指定了device=7，但仍在0号卡运行的情况
qq_47220888的博客
03-07 406
解决程序不在指定卡运行的情况
Python指定使用gpu
qq_40734883的博客
08-05 1万+
单/多卡GPU使用设置
用Java获取服务器显卡信息
06-03
要获取服务器显卡信息，可以使用Java程序访问操作系统的API或者使用第三方库来获取。下面是一个使用JNA库获取显卡信息的示例代码： ```java import com.sun.jna.Library; import com.sun.jna.Native; import com.sun.jna.Structure; import com.sun.jna.ptr.IntByReference; import com.sun.jna.win32.StdCallLibrary; public class GPUInfo { public static void main(String[] args) { try { GPUInfo.GPU gpu = GPUInfo.getGPU(); System.out.println(gpu.toString()); } catch (Exception e) { e.printStackTrace(); } } public static GPU getGPU() throws Exception { GPU gpu = new GPU(); NVAPI.NvAPI_Initialize(); NvPhysicalGpuHandle gpuHandle = new NvPhysicalGpuHandle(); NVAPI.NvAPI_EnumPhysicalGPUs(gpuHandle); NV_DISPLAY_DRIVER_MEMORY_INFO memInfo = new NV_DISPLAY_DRIVER_MEMORY_INFO(); memInfo.version = NV_DISPLAY_DRIVER_MEMORY_INFO_VER; NVAPI.NvAPI_GPU_GetMemoryInfo(gpuHandle, memInfo); gpu.memoryTotal = memInfo.memorySize; gpu.memoryUsed = memInfo.memoryUsed; gpu.memoryFree = gpu.memoryTotal - gpu.memoryUsed; return gpu; } public static class GPU { public int memoryTotal; public int memoryUsed; public int memoryFree; @Override public String toString() { return "GPU{" + "memoryTotal=" + memoryTotal + ", memoryUsed=" + memoryUsed + ", memoryFree=" + memoryFree + '}'; } } public interface NVAPI extends Library { int NVAPI_MAX_PHYSICAL_GPUS = 64; int NVAPI_MAX_USAGES_PER_GPU = 34; int NVAPI_INTERFACE_VERSION = 0x0100E900; int NVAPI_GENERIC_STRING_MAX = 4096; int ERROR_SUCCESS = 0; int ERROR_INVALID_PARAMETER = -1; int ERROR_NOT_SUPPORTED = -2; int ERROR_NVIDIA_DEVICE_NOT_FOUND = -3; int ERROR_FUNCTION_NOT_FOUND = -4; int ERROR_NVIDIA_DRIVER_NOT_LOADED = -5; NVAPI INSTANCE = (NVAPI) Native.loadLibrary("nvapi64", NVAPI.class); int NvAPI_Initialize(); int NvAPI_EnumPhysicalGPUs(NvPhysicalGpuHandle[] gpuHandles); int NvAPI_GPU_GetMemoryInfo(NvPhysicalGpuHandle gpuHandle, NV_DISPLAY_DRIVER_MEMORY_INFO pMemoryInfo); } public interface NV_DISPLAY_DRIVER_MEMORY_INFO_VER { } public static class NvPhysicalGpuHandle extends Structure { public byte[] data = new byte[4]; } public static class NV_DISPLAY_DRIVER_MEMORY_INFO extends Structure { public int version; public int values[]; } } ``` 需要注意的是，这个代码只能在Windows系统上运行，并且需要安装NVIDIA显卡驱动程序。如果你的服务器使用的是其他操作系统或者其他显卡品牌，需要使用相应的API或者库来获取显卡信息。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值