NVIDIA GPU管理利器：nvidia-smi详解

最新推荐文章于 2025-03-25 17:50:12 发布

威迪斯特

最新推荐文章于 2025-03-25 17:50:12 发布

阅读量4.7k

点赞数 22

文章标签： GPU管理 NVIDIA-SMI 进程管理运维 Linux 服务器图像处理

本文链接：https://blog.csdn.net/weixin_70208651/article/details/142601908

版权

一.简介

nvidia-smi是NVIDIA System Management Interface（系统管理接口）的简称，是一个用于查询和管理NVIDIA GPU设备的命令行工具。通过nvidia-smi，用户可以轻松查看GPU的实时状态信息，包括温度、使用率、内存使用情况、显存使用情况、运行中的进程及其对应的GPU资源占用等，是用户管理NVIDIA GPU不可或缺的工具之一。

和一般的Linux命令不同的是，该命令需要服务器有nvidia的GPU并安装相应的GPU驱动才能使用。下面就通过基础用法和进阶用法详细介绍这个命令。

二.基础用法

2.1基础命令和示意图

基础命令是：

nvidia-smi

一切正常情况下，查看结果如下图所示：

2.2示意图的详细说明

下面是示意图的详细说明：

Driver Version: 这是NVIDIA显卡驱动程序的版本号，表示当前系统中安装的NVIDIA驱动程序的版本号。
CUDA Version: 12.2: 这是CUDA的版本号，表示当前系统安装的CUDA版本号为12.2。CUDA是NVIDIA针对GPU的并行计算平台和编程模型，它可以使开发者利用GPU的并行处理能力来加速各种应用程序。
GPU：GPU编号，从0开始，图中共4块GPU。
Fan：风扇转速（0%-100%），N/A表示没风扇。
Name：GPU名字/类型。
Temp：GPU温度（GPU温度过高会导致GPU频率下降）。
Perf：性能状态，从P0（最大性能）到P12（最小性能）。
Pwr：Usager/Cap：GPU功耗，Usage表示用了多少，Cap表示总共多少。
Persistence-M：持续模式状态。
Bus-Id：GPU总线。
Disp.A：Display Active，表示GPU是否初始化。
Memory-Usage：显存使用率。
Volatile GPU-UTil：GPU使用率。
Uncorr. ECC：是否开启错误检查和纠错技术，0/DISABLED，1/ENABLED，图中均为N/A。
Compute M：计算模式，0/DEFAULT，1/EXCLUSIVE_PROCESS，2/PROHIBITED，图中均为Default。
Processes：显示每个进程占用的显存使用率、进程号、占用的哪个GPU。