英伟达显卡查看占用情况

1. 查看显存占用情况：

运行该命令nvidia-smi显示所有显卡的占用率
相关参数介绍如下

-i,   --id=                 Target a specific GPU or Unit.                                                                                                                                                                                               
-f,   --filename=           Log to a specified file, rather than to stdout.                                                                                                                                                                                 
-l,   --loop=               Probe until Ctrl+C at specified second interval.                                                                                                                                                                                
-lms, --loop-ms=            Probe until Ctrl+C at specified millisecond interval. 

想要实时显示利用率，可以用以下命令

nvidia-smi -l 1

2 设置使用的显卡

export CUDA_VISIBLE_DEVICES= XXXX

使用该命令后，其余显卡不可见

3 使用工具nvtop

1. 安装软件

apt install nvtop

2. 使用

nvtop

3. 使用q键退出

4 使用工具nvitop(推荐)

1. 安装软件

pip install nvitop

2. 使用

nvitop

3. 使用q键退出