查看GPU使用情况和设置CUDA_VISIBLE_DEVICES

aJupyter

已于 2023-12-02 19:56:57 修改

阅读量8.2k

点赞数 5

分类专栏： # Tricks 文章标签： python linux gpu

于 2023-01-11 00:59:48 首次发布

本文链接：https://blog.csdn.net/qq_49821869/article/details/128638443

版权

Tricks 专栏收录该内容

31 篇文章

订阅专栏

文章介绍了如何在拥有多个GPU的服务器中选择特定GPU运行程序，主要涉及CUDA_VISIBLE_DEVICES环境变量的使用。通过临时设置（如Linux的export命令和Windows的系统环境变量）或永久设置（修改.bashrc文件）来指定GPU。同时，提到了使用nvidia-smi命令查看GPU状态。在Python环境中，可以通过os模块设置CUDA环境变量。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、简介

服务器中有多个GPU，选择特定的GPU运行程序可在程序运行命令前使用：CUDA_VISIBLE_DEVICES=0命令。0为服务器中的GPU编号，可以为0, 1, 2, 3等，表明对程序可见的GPU编号。
在这里插入图片描述

二、查看GPU状态和信息

nvidia-smi

在这里插入图片描述
定时刷新状态，-n（秒），每秒刷新一次

watch -n 1 nvidia-smi

三、使用

需要注意前提是你有GPU

3.1临时设置（临时设置方法一定要在第一次使用 cuda 之前进行设置）

Linux： export CUDA_VISIBLE_DEVICES=1  

export CUDA_VISIBLE_DEVICES=1,2

windows:  set CUDA_VISIBLE_DEVICES=1

3.2python 运行时设置

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"

os.environ["CUDA_VISIBLE_DEVICES"] = "1,2"

或

CUDA_VISIBLE_DEVICES=1 python **.py

CUDA_VISIBLE_DEVICES=0,1

注意：临时设置方法一定要在第一次使用 cuda 之前进行设置

3.3永久设置

linux:
在~/.bashrc 的最后加上export CUDA_VISIBLE_DEVICES=1，然后source ~/.bashrc
windows:
打开我的电脑环境变量设置的地方，直接添加就行了。

四、参考资料

pytorch指定多块GPU运行代码
 设置 CUDA_VISIBLE_DEVICES