查看linux节点gpu显存使用情况

zhl-handsome

已于 2022-08-17 10:02:05 修改

阅读量3k

点赞数 4

分类专栏： Linux 文章标签： linux ubuntu

于 2022-06-07 17:25:49 首次发布

本文链接：https://blog.csdn.net/qq_43488795/article/details/125169619

版权

Linux 专栏收录该内容

18 篇文章 1 订阅

订阅专栏

我们在使用公共节点时经常要看每个节点的使用情况，本文可以解决逐个连接才能查看的问题。

nvidia-smi --query-gpu=memory.free,memory.used,utilization.gpu --format=csv

#memory.total：显存大小
#memory.total：显存使用了多少
#utilization.gpu：GPU使用率
#输出
memory.free [MiB], memory.used [MiB], utilization.gpu [%]
9712 MiB, 1727 MiB, 1 %
9713 MiB, 1726 MiB, 3 %
10160 MiB, 1279 MiB, 1 %
10157 MiB, 1282 MiB, 0 %
10157 MiB, 1282 MiB, 2 %
10156 MiB, 1283 MiB, 2 %
10154 MiB, 1285 MiB, 2 %
10154 MiB, 1285 MiB, 0 %
10151 MiB, 1288 MiB, 4 %
10149 MiB, 1290 MiB, 5 %
10094 MiB, 1345 MiB, 2 %
10091 MiB, 1348 MiB, 1 %

查看其他节点计算资源

ssh username@ip_address  nvidia-smi --query-gpu=memory.free,memory.used,utilization.gpu --format=csv

或写成脚本

#dispmemory.sh
echo '显示节点'$1'内存'
ssh hlzhang@$1  nvidia-smi --query-gpu=memory.free,memory.used,utilization.gpu --format=csv

./dispmemory k231
输出
显示节点231内存
memory.free [MiB], memory.used [MiB], utilization.gpu [%]
10478 MiB, 963 MiB, 90 %
10479 MiB, 962 MiB, 1 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %
11430 MiB, 11 MiB, 0 %