TensorFlow指定CPU和GPU方法
TensorFlow 支持 CPU 和 GPU。它也支持分布式计算。可以在一个或多个计算机系统的多个设备上使用 TensorFlow。
TensorFlow 将支持的 CPU 设备命名为“/device:CPU:0”(或“/cpu:0”),第 i 个 GPU 设备命名为“/device:GPU:I”(或“/gpu:I”)。
如前所述,GPU 比 CPU 要快得多,因为它们有许多小的内核。然而,在所有类型的计算中都使用 GPU 也并不一定都有速度上的优势。有时,比起使用 GPU 并行计算在速度上的优势收益,使用 GPU 的其他代价相对更为昂贵。
为了解决这个问题,TensorFlow 可以选择将计算放在一个特定的设备上。默认情况下,如果 CPU 和 GPU 都存在,TensorFlow 会优先考虑 GPU。
TensorFlow 将设备表示为字符串。文展示如何在 TensorFlow 中指定某一设备用于矩阵乘法的计算。
具体做法
· 要验证 TensorFlow 是否确实在使用指定的设备(CPU 或 GPU),可以创建会话,并将 log_device_placement 标志设置为 True,即:
![97bb74654b8bdfab940f8ba6b2160356.png](https://i-blog.csdnimg.cn/blog_migrate/d0921dfb894691a44450072f1869498d.png)
· 如果你不确定设备,并希望 TensorFlow 选择现有和受支持的设备,则可以将 allow_soft_placement 标志设置为 True:
![b66c6ce645813e2c3fa970f66b4d891a.png](https://i-blog.csdnimg.cn/blog_migrate/4cbd48eedb75644890794992192a5fc7.png)
· 手动选择 CPU 进行操作:
![5d1f3ff3fcc6fc37bfe27c1730a00a79.png](https://i-blog.csdnimg.cn/blog_migrate/aa906fb1b45cd18171b4aeb330a374ae.jpeg)
得到以下输出:
![a8e11645806c934a5d51ed75c4b6d6e8.png](https://i-blog.csdnimg.cn/blog_migrate/1f7fc0448864569e09c23b19530037ec.jpeg)
可以看到,在这种情况下,所有的设备都是 '/cpu:0'。
· 手动选择一个 GPU 来操作:
![21c95cfc30d4750a0c2651b16f2439d5.png](https://i-blog.csdnimg.cn/blog_migrate/b69dbccda653774910afdc648c0e2ad6.jpeg)
输出现在更改为以下内容:
![5e46ed24f194fa51292fc90bd2435ebe.png](https://i-blog.csdnimg.cn/blog_migrate/009b4a02b8fbf62298a5c358132da550.jpeg)
每个操作之后的'/cpu:0'现在被替换为'/gpu:0'。
· 手动选择多个GPU:
![d92bed933f4aa617b503bd30190a1357.png](https://i-blog.csdnimg.cn/blog_migrate/9c693a915ca97c3cf5ad1be5e69c647a.jpeg)
在这种情况下,如果系统有 3 个 GPU 设备,那么第一组乘法将由'/:gpu:1'执行,第二组乘以'/gpu:2'执行。
解读分析
函数 tf.device() 选择设备(CPU 或 GPU)。with 块确保设备被选择并用于其操作。with 块中定义的所有变量、常量和操作将使用在 tf.device() 中选择的设备。
会话配置使用 tf.ConfigProto 进行控制。通过设置 allow_soft_placement 和 log_device_placement 标志,表示 TensorFlow 在指定的设备不可用时自动选择可用的设备,并在执行会话时给出日志消息作为描述设备分配的输出。