python自动选取空闲gpu

最新推荐文章于 2024-08-13 17:23:36 发布

AI算法网奇

最新推荐文章于 2024-08-13 17:23:36 发布

阅读量4.8k

点赞数 1

分类专栏： python宝典

本文链接：https://blog.csdn.net/jacke121/article/details/82811639

版权

python宝典专栏收录该内容

1011 篇文章 368 订阅 ¥29.90 ¥99.00

订阅专栏

超级会员免费看

本文介绍了如何使用Python库nvidia-ml-py和nvidia-ml-py3来自动检测并选择可用的GPU，确保在多GPU环境中有效分配资源。

摘要由CSDN通过智能技术生成

自动选取可用gpu

pip install nvidia-ml-py==4.304.04

pip安装pynvml pip install nvidia-ml-py3

如果是Python2，则pip nvidia-ml-py2

import os
import pynvml
pynvml.nvmlInit()


def usegpu(need_gpu_count=1):

    nouse=[]
    for index in range(pynvml.nvmlDeviceGetCount()):
        # 这里的0是GPU id
        handle = pynvml.nvmlDeviceGetHandleByIndex(index)
        meminfo = pynvml.nvmlDeviceGetMemoryInfo(handle)
        used= meminfo.used/meminfo.total
        if used<0.5:
            nouse.append(index)
    if len(nouse)>=need_gpu_count:
        os.environ["CUDA_VISIBLE_DEVICES"] = ','.join(map(str, nouse[:need_gpu_count]))
        return nouse[:need_gpu_count]

了解本专栏