查看GPU使用情况

在使用GPU的时候，不知道GPU和显存的使用情况，这时候可以输入以下命令查看：

• Ubuntu系统中输入：

nvidia-smi

• Windows系统中：
  在C:\Program Files\NVIDIA Corporation\NVSMI里找到文件nvidia-smi.exe，把该文件拖到命令提示符窗口中即可。

得到的GPU和显存状态图如下：

这是服务器上特斯拉K80的信息。 上面的表格中：

• 第一栏的Fan：N/A是风扇转速，从0到100%之间变动。有的设备不会返回转速，因为它不依赖风扇冷却而是通过其他外设保持低温。
• 第二栏的Temp：是温度，单位摄氏度。
• 第三栏的Perf：是性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能。
• 第四栏下方的Pwr：是能耗，上方的Persistence-M：是持续模式的状态，持续模式虽然耗能大，但是在新的GPU应用启动时，花费的时间更少，这里显示的是off的状态。
• 第五栏的Bus-Id是涉及GPU总线的东西，domain?device.function
• 第六栏的Disp.A是Display Active，表示GPU的显示是否初始化。
• 第五第六栏下方的Memory Usage是显存使用率。
• 第七栏是浮动的GPU利用率。
• 第八栏上方是关于ECC的东西。
• 第八栏下方Compute M是计算模式。
• 下面一张表示每个进程占用的显存使用率。

显存占用和GPU占用是两个不一样的东西，显卡是由GPU和显存等组成的，显存和GPU的关系有点类似于内存和CPU的关系。

一般，Tensorflow会尝试使用它可见的所有GPU设备，如果希望在不同的GPU上运行不同的session，应该执行以下操作：
【如果要执行的是my_script.py，且有2个GPU】

CUDA_VISIBLE_DEVICES=0 python my_script.py           # Uses GPU 0
CUDA_VISIBLE_DEVICES=1 python my_script.py           # Uses GPU 1
CUDA_VISIBLE_DEVICES=0,1 python my_script.py         # Uses GPUs 0 and 1.