ubuntu 查看GPU使用信息以及用GPU进行TensorFlow计算加速

一、ubuntu 查看GPU的版本信息和使用情况

1.1 使用nvidia自带的nvidia-smi的命令行工具

1.1.1 查看静态使用情况（当前GPU使用情况）

nvidia自带了一个nvidia-smi的命令行工具，会显示显存的使用情况

nvidia-smi

解析

1. 第一栏中：Driver Version ：352.63 表示我们使用的驱动是352.63

2. 第二栏中：

• 第一行表示GPU序号，名字，Persisitence-M(持续模式状态)。如该电脑中有一个GPU，序号为0；名字为GeForce DTX 970；持续模式的状态，持续模式虽然耗能大，但是在新的GPU应用启动时，花费的时间更少，这里显示的是off的状态。
• 第二行：
  Fan：显示风扇的转速，从0到100%之间变动，是计算机的期望转速，如果计算机不是通过风扇冷却或者风扇坏了，显示出来就是N/A。有的nvidia设备如笔记本，tesla系列不是主动散热的可能显示不了转速
  Temp：显示内部温度，单位是摄氏度
  Perf：表征性能状态，从P0到P12，P0表示最大性能，P12表示最小性能
  Pwr：表示能耗
  Bus-Id：设计GPU总线的相关信息
  Disp.A：DisPlay Active ，表示GPU是否有初始化
  Memory-Usage：表示显存的使用率
  Volatile GPU-Util：表示浮动的GPU的利用率
  Uncorr.ECC：表示ECC的相关信息，ECC即 Error Correcting Code 错误检查和纠正，在服务器和工作站上的内存中才有的技术
  Compute M：表示计算模式
  Processes：显示每块GPU上每个进程所使用的显存情况。
  图中红框标注的参数为一些重要的参数，主要有温度、内存使用、GPU利用率

1.2 查看动态使用情况（周期性输出GPU使用情况）

watch -n * nvidia-smi                  # 每 * 秒更新
watch -n 10 nvidia-smi               # 每10秒更新
watch nvidia-smi                         # 每2 秒更新

1.2 使用nvidia GPU

lspci |grep -i vga
lspci |grep -i nvidia

有GPU的linux的服务器

没有GPU的linux的服务器

二、用GPU进行TensorFlow计算加速

将深度学习应用到实际问题时，存在的一个非常大的问题是训练深度学习模型需要的计算量太大。
为了加速训练过程，接下来将介绍如何在TensorFlow中使用单个GPU进行计算加速，以及生成TensorFlow会话（tf.Session）时的一些常用参数。通过这些参数可以使调试更加方便而且程序的可扩展性更好。
本文选自**《TensorFlow：实战Google深度学习框架（第2版）》**。

2.1 tf.device函数

TensorFlow程序可以通过tf.device函数来指定运行每一个操作的设备，这个设备可以是本地的CPU或者GPU，也可以是某一台远程的服务器。但在本文中只关心本地的设备。

TensorFlow会给每一个可用的设备一个名称，tf.device函数可以通过设备的名称来指定执行运算的设备。

• CPU在TensorFlow中的名称为/cpu:0。在默认情况下，即使机器有多个CPU，TensorFlow也不会区分它们，所有的CPU都使用/cpu:0作为名称。
• 而一台机器上不同GPU的名称是不同的，第n个GPU在TensorFlow中的名称为/gpu:n。比如第一个GPU的名称为/gpu:0，第二个GPU名称为/gpu:1，以此类推。

TensorFlow提供了一个快捷的方式来查看运行每一个运算的设备。在生成会话时，可以通过设置log_device_placement参数来打印运行每一个运算的设备。以下程序展示了如何使用log_device_placement这个参数。

import tensorflow as tf
a = tf.constant([1.0, 2.0, 3.0], shape=[3], name='a')
b = tf.constant([1.0, 2.0, 3.0]