查看CPU和GPU使用情况

1. Linux下查看CPU和GPU使用情况

本文记录了如何在Linux系统（以Ubuntu 16.04为例）查看电脑的GPU和CPU使用情况，包括命令和查询得到的界面。更新于2018.10.18。

CPU使用情况查看

动态查看

打开终端，输入：

top

• 1

即可看到实时的CPU使用情况，如下图所示：

按Ctrl+C退出查看。

查看版本

top -h

• 1

即可看到当前procps-ng的版本。

GPU使用情况查看

静态查看
在终端输入如下命令即可实现GPU使用情况的静态查看：

invidia-smi

• 1

效果如下图所示：

动态查看

在终端输入：

watch -n 0.5 nvidia-smi

• 1

即可实现动态查看。-n后面的数字是更新的时间间隔。

按Ctrl+C退出。

2.GPU各个参数解释

 

nvidia-smi是用来查看GPU使用情况的。我常用这个命令判断哪几块GPU空闲，但是最近的GPU使用状态让我很困惑，于是把nvidia-smi命令显示的GPU使用表中各个内容的具体含义解释一下。

这是服务器上特斯拉K80的信息。
上面的表格中：
第一栏的Fan：N/A是风扇转速，从0到100%之间变动，这个速度是计算机期望的风扇转速，实际情况下如果风扇堵转，可能打不到显示的转速。有的设备不会返回转速，因为它不依赖风扇冷却而是通过其他外设保持低温（比如我们实验室的服务器是常年放在空调房间里的）。
第二栏的Temp：是温度，单位摄氏度。
第三栏的Perf：是性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能。
第四栏下方的Pwr：是能耗，上方的Persistence-M：是持续模式的状态，持续模式虽然耗能大，但是在新的GPU应用启动时，花费的时间更少，这里显示的是off的状态。
第五栏的Bus-Id是涉及GPU总线的东西，domain:bus:device.function
第六栏的Disp.A是Display Active，表示GPU的显示是否初始化。
第五第六栏下方的Memory Usage是显存使用率。
第七栏是浮动的GPU利用率。
第八栏上方是关于ECC的东西。
第八栏下方Compute M是计算模式。
下面一张表示每个进程占用的显存使用率。

显存占用和GPU占用是两个不一样的东西，显卡是由GPU和显存等组成的，显存和GPU的关系有点类似于内存和CPU的关系。我跑caffe代码的时候显存占得少，GPU占得多，师弟跑TensorFlow代码的时候，显存占得多，GPU占得少。