nvidia-smi全称: NVIDIA System Management Interface, 它是一个基于NVIDIA Management Library(NVML)构建的命令行实用工具,旨在帮助管理和监控NVIDIA GPU设备。
NVIDIA-SMI 537.53 #
nvidia-smi
工具的版本Driver Version: 537.53 # 安装的 NVIDIA 驱动程序版本
CUDA Version # 支持的 CUDA 版本
GPU | GPU的编号,0代表第一张显卡,1代表第二张,依次类推 |
Fan | 风扇转速(0%–100%),N/A表示没有风扇 |
Name | GPU的型号,以此处为例是NVIDIA GeForce RTX 4060 |
Temp | GPU温度(GPU温度过高会导致GPU频率下降) |
Perf | 性能状态,从P0(最大性能)到P12(最小性能) |
Pwr | GPU功耗 |
TCC/WDDM | NVIDIA GPU驱动程序模式,TCC(Tesla Compute Cluster)模式。WDDM(Windows Display Driver Model)模式 |
Bus-Id | GPU总线,格式 domain:bus:device.function |
Disp.A | Display Active,用于指示 GPU 是否用于驱动显示器。 |
Memory-Usage | 显存使用率(显示显存占用情况) |
Volatile GPU-Util | 浮动的GPU利用率 |
Uncorr. ECC | 是否开启错误检查和纠正技术,0/DISABLED, 1/ENABLED |
Compute M. | 计算模式,0/DEFAULT, 1/EXCLUSIVE_PROCESS, 2/PROHIBITED |
MIG M. | 是否允许将单个物理 GPU 分割成多个更小的独立 GPU 实例,On, Off |
Processes | 显示每个进程占用的显存使用率、进程号、占用哪个GPU |
Type | 正在使用GPU的进程类型,C技术进程,G图形进程,V视频进程 |
nvcc的CUDA版本和nvidia-smi的CUDA版本可能不同。
nvidia-smi
命令显示的是驱动程序支持的 CUDA 版本,驱动程序支持的版本与编译和链接程序的版本无关。nvcc
是CUDA编译驱动程序,其CUDA版本是用于编译CUDA程序的。
也就是说nvidia-smi
显示的CUDA是驱动支持的CUDA,nvcc
显示的CUDA是运行时的CUDA。 nvidia-smi
的CUDA版本在数值上应当不低于 nvcc
显示的CUDA版本。如若低于应当更新驱动程序版本。
参考链接: