Tensorflow如何使用一个或多个GPU进行训练

原文链接：https://blog.csdn.net/wangdongwei0/article/details/81212090

Tensorflow如何使用一个或多个GPU进行训练

注意：训练前要用nvidia-smi来查看一下当前GPU的使用情况，不要一下子就放上去跑把大家一起挤挂了，这是负责任的行为。
 第一种：python代码中设置使用的GPU  

使用方法：  

第一步：

import os os.environ["CUDA_VISIBLE_DEVICES"] = "0"

第二步：设置tensorflow使用的显存大小  默认tensorflow是使用GPU尽可能多的显存。

可以通过下面的方式，来设置使用的GPU显存： 

1. sess_config = tf.ConfigProto()      
2. sess_config.gpu_options.per_process_gpu_memory_fraction = 0.90      
3. sess = tf.Session(config=sess_config) 

第二种：终端执行程序时设置使用的GPU 

如果电脑有多个GPU，tensorflow默认全部使用。如果想只使用部分GPU，可以设置CUDA_VISIBLE_DEVICES。

CUDA_VISIBLE_DEVICES=1 python my_script.py 

1. CUDA_VISIBLE_DEVICES=1           Only device 1 will be seen
2. CUDA_VISIBLE_DEVICES=0,1         Devices 0 and 1 will be visible
3. CUDA_VISIBLE_DEVICES="0,1"       Same as above, quotation marks are optional
4. CUDA_VISIBLE_DEVICES=0,2,3       Devices 0, 2, 3 will be visible; device 1 is masked
5. CUDA_VISIBLE_DEVICES=""          No GPU will be visible

 参考：《tensorflow中使用指定的GPU及GPU显存》