TensorFlow指定特定GPU以及占用显存的比例

版权声明:本文为博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/m0_37041325/article/details/77488981

因为LZ是使用GPU服务器跑TensorFlow,而TensorFlow默认的是占用所有GPU,于是为了不影响其他同学使用GPU,于是就试验和总结了一下TensorFlow指定GPU的方法。。

环境

系统:Ubuntu14.04

TensorFlow:v1.3

GPU 8个GTX1080,第一列的0~7的数是GPU的序号


一.设置指定GPU

1.一劳永逸的方法,直接在~/.bashrc中设置环境变量

CUDA_VISIBLE_DEVICES

      (1)vim ~/.bashrc

      (2)在.bashrc.最下方添加

export  CUDA_VISIBLE_DEVICES='XX'(这个xx是GPU的序号,比如我这边服务器上有8个GTX1080序号是0~7,可以填入任意多个序号,序号间用逗号隔开)

      (3)source ~/.bashrc

         这样只要每次你用TensorFlow跑程序,都只会占用指定的GPU

2.在终端设置使用的GPU

如果用方法一,虽然方便,但有的时候还是需要指定其他的GPU,这时可以这样,例如

CUDA_VISIBLE_DEVICES=2 python test.py

这样就只会使用序号为2的GPU

3.在程序中指定使用的GPU

import os

os.environ["CUDA_VISIBLE_DEVICES"]=‘6‘’,‘7’

这里就设置了使用序号为6,7两个的GPU

       

事实上这3种方法都是为了设置环境变量CUDA_VISIBLE_DEVICES,方法一可以分别和方法二,三结合使用,比如虽然方法一设置了CUDA_VISIBLE_DEVICES=2,后面再用方法二设置使用GPU 0,执行的时候只使用GPU 0。



二.设置占用每个GPU的比例


1.定量设置显存

gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) 
      这样运行TensorFlow程序时,每个使用的GPU中,占用的显存都不超过总显存的0.7.

      比如我的GTX1080显存是8G左右,然后占用的显存应该是0.7*8=5.6G左右,得到的结果5.9G,差不多。



2.按需设置显存

gpu_options = tf.GPUOptions(allow_growth=True)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))   
    这样设置以后,程序就会按需占用GPU显存。


引用

https://stackoverflow.com/questions/37893755/tensorflow-set-cuda-visible-devices-within-jupyter
https://stackoverflow.com/questions/36668467/change-default-gpu-in-tensorflow
http://www.cnblogs.com/darkknightzh/p/6591923.html
展开阅读全文

没有更多推荐了,返回首页