超级会员免费看
当GPU在训练CNN模型时出现内存溢出，可以通过减少batch_size、增大stride、减网络层数、使用16位浮点数及多GPU训练等方法来解决。这些策略在资源有限的情况下尤其有用。
你正在使用GPU进行CNN类模型训练，突然发生了内存溢出的错误，你可以通过哪些方式来进行解决？
在GPU内存发生溢出（memory overflow）的时候、我们首先想到的肯定是增加GPU的资源，比如我们变成多GPU训练或者升级GPU的类型。
但是，现实情况下，资源往往是有限的。那么我们就得考虑别的方案来进行问题的解决：
1， 减少每个批次的大小（降低batch_size）；
2， 在一层或者多层中使用较大的步幅（stride）来降低维度；
3，删除网络中的一层或者多层；
4，使用16位浮点数来代替32位浮点数进行运算；
5，在多个设备上分配CNN模型即多GPU训练；
参考：Hands-on-Machine-Learning-with-Scikit-Learn-Keras-and-TensorFlow
参考：
扫一扫
761
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
