Pytorch GPU 显存溢出 Out of Memory 如何处理

在不修改网络结构的情况下, 有如下操作：

1. 同意 @Jiaming , 尽可能使用inplace操作， 比如relu 可以使用 inplace=True 。一个简单的使用方法，如下：

def inplace_relu(m): 
    classname = m.__class__.__name__
    if classname.find('ReLU') != -1: 
        m.inplace=True #model.apply(inplace_relu)

2.进一步，比如ResNet 和 DenseNet 可以将 batchnorm 和relu打包成inplace，在bp时再重新计算。使用到了pytorch新的checkpoint特性，有以下两个代码。由于需要重新计算bn后的结果，所以会慢一些。

• gpleiss/efficient_densenet_pytorch

• mapillary/inplace_abn

 

3. 每次循环结束时 删除 loss，可以节约很少显存，但聊胜于无。可见如下issue