使用nvitop来监控 NVIDIA GPU 的使用情况

1.安装nvitop：

pip install nvitop

2.运行 nvitop:

nvitop

显示如下：

显示信息含义

1. 顶部信息栏

• 当前时间：显示当前的系统时间（Sat Aug 31 16:33:03 2024）。
• 提示信息：提示可以按 h 键获取帮助或按 q 键退出。
• nvitop 版本：NVITOP 1.3.2。
• 驱动版本：Driver Version: 525.125.06。
• CUDA 驱动版本：CUDA Driver Version: 12.0。

2. GPU 信息区域

• GPU 概览表：
  • GPU：显示 GPU 的编号（如 0, 2, 3, 4, 5）。
  • Fan (风扇速度)：显示风扇的转速（如 30%，N/A 表示不可用或未启用）。
  • Temp (温度)：显示每个 GPU 的当前温度（例如，30C，64C）。
  • Perf (性能状态)：显示 GPU 的性能状态（如 P0 表示最大性能模式，P2 表示降级模式）。
  • Pwr: Usage/Cap (功率：使用量/容量)：显示当前的功耗及最大容量（例如，71W / 165W）。
  • Memory-Usage (内存使用)：显示 GPU 的内存使用情况和总内存（例如，15002MiB / 24.00GiB）。
  • GPU-Util (GPU 利用率)：显示 GPU 的使用率百分比（例如，52%，91%）。
  • Compute M. (计算模式)：显示 GPU 的计算模式（如 Default）。
  • MEM / UTL：图形化显示内存和利用率的百分比条形图。

3. 系统负载信息

• Load Average (平均负载)：显示系统在过去 1 分钟、5 分钟和 15 分钟内的平均负载（例如，15.05 15.17 15.44）。
• CPU：显示 CPU 当前的使用率（例如，18.5%）。

4. 图表区域

• 内存使用情况：显示系统内存的使用量（36.96GiB (19.4%)）。
• 交换分区使用情况：显示交换分区的使用量（0.15GiB (7.5%)）。
• GPU 利用率时间图：显示 GPU 使用率随时间的变化。

5. 进程信息区域

• 列出了使用 GPU 的所有进程及其详细信息：
  • GPU：显示每个进程使用的 GPU 编号。
  • PID：进程 ID。
  • USER：进程所有者的用户名。
  • GPU-MEM：进程使用的 GPU 内存量。
  • %SM：流式多处理器 (Streaming Multiprocessor) 的使用率。
  • %CPU：进程的 CPU 使用率。
  • %MEM：进程的系统内存使用率。
  • TIME：进程的运行时间。
  • COMMAND：执行的命令或程序（如 python main.py、xorg 等）。