【TensorFlow】GPU/CPU硬件设置

强制使用CPU

有的时候为了对比CPU和GPU运行效率，需要讲GPU版本的代码在CPU环境运行，但是因为存在GPU的缘故使得代码始终处于GPU环境运行。这个时候需要强制使用CPU跑程序：

os.environ["CUDA_VISIBLE_DEVICES"] = ""

限制显存使用

TensorFlow调用GPU时默认采用贪婪模式，即无论模型大小，都将占用所有可用的显存。如果想要多线程运行同一个模型，需要对TensorFlow使用显存的模式进行更改：

import tensorflow as tf

# 第一种方式：设置显存使用上限
# per_process_gpu_memory_fraction参数为每个线程所能占用的显存占空闲显存的比例
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) 

# 第二种方式：按需取用
gpu_options = tf.GPUOptions(allow_growth=True)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))

# 在Keras中，按需取用模式可以这么设置：
from keras import backend as K
if('tensorflow' == K.backend()):
    import tensorflow as tf
    from keras.backend.tensorflow_backend import set_session

    config = tf.ConfigProto()
    config.gpu_options.allow_growth = True
    sess = tf.Session(config=config)