深度学习out of memory解决方案

遇到的问题：

当服务器有两张显卡的时候，多人使用电脑跑程序可能会使一张显卡的内存不够用。如何调用另外一张显卡，下面提供了解决方案。
关键词：服务器 out of memory 多GPU

---

问题描述：

跑程序时候出现 out of memory字样

原因分析：

程序运行的数据内存超过了显卡专用GPU内存，导致内存溢出报错。

解决方案：

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"

在程序首行加上上述命令，指定程序在哪个显卡上进行运行。我这里有两张显卡。所以最后的数字可以视情况，选择“0”或者“1”。 如果两张显卡都out of memory，最简单粗暴的方式就是花钱再买一张显卡。或者是修改自己的程序，如深度学习中可以缩小batch size 的值，这样也可以减少很大部分的内存使用。