GPU如何统计显存占用

GPU统计显存占用有两种方法：

方法1： 使用

watch -n 1 nvidia-smi 

这个会2秒刷新一次，可以在一个终端运行程序另外一个终端执行这个然后看具体的显存变化【很费劲，而且可能一闪而过】

方法2：

要统计程序的最大显存占用，你可以使用Python的nvidia-smi库来监测程序的显存使用情况并记录最大值。以下是一个示例代码，用于实现这个目标：

首先，确保你已经安装了NVIDIA的nvidia-smi工具和相关驱动，以及Python的nvidia-ml-py库，这个库用于与NVIDIA Management Library (NVML) 进行交互。

可以使用以下命令来安装 nvidia-ml-py：

pip install nvidia-ml-py

然后，你可以使用以下Python代码来统计程序的最大显存占用：

import time
import pynvml

def get_max_gpu_memory_usage():
    pynvml.nvmlInit()
    
    try:
        gpu_count = pynvml.nvmlDeviceGetCount()
        max_memory_usage = [0] * gpu_count

        while True:
            for i in range(gpu_count):
                handle = pynvml.nvmlDeviceGetHandleByIndex(i)