python训练模型一直循环怎么办_基于Keras 循环训练模型跑数据时内存泄漏的解决方式...

在使用完模型之后，添加这两行代码即可清空之前model占用的内存：

import tensorflow as tf

from keras import backend as k

k.clear_session()

tf.reset_default_graph()

补充知识：keras 多个模型测试阶段速度越来越慢问题的解决方法

问题描述

在实际应用或比赛中，经常会用到交叉验证(10倍或5倍)来提高泛化能力，这样在预测时需要加载多个模型。常用的方法为

mods = []

from keras.utils.generic_utils import customobjectscope

with customobjectscope({}):

for model_file in tqdm.tqdm(model_files):

mod = keras.models.load_model(model_file)

mods.append(mod)

return mods

使用这种方式时会发现，刚开始模型加载速度很快，但随着加载的模型数量增多，加载速度越来越慢，甚至延长了3倍以上。那么为什么会出现这种现象呢？

原因

由于tensorflow的图是静态图，但是如果直接加在不同的图(即不同的模型)，应该都会存在内存中，原有的图并不会释放，因此造成了测试速度越来越慢。

解决方案

知道了原因，解决方案也就有了：每加载一个模型就对所有测试数据进行评估，同时在每次加载模型前，对当前session进行重置。keras的tf后台提供了clear_session方法来清除session

import keras.backend.tensorflow_backend as ktf

ktf.clear_session()

session = tf.session(config=config)

ktf.set_session(session)

with customobjectscope({}):

model = keras.models.load_model(model_file)

return model

以上这篇基于keras 循环训练模型跑数据时内存泄漏的解决方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持萬仟网。

如您对本文有疑问或者有任何想说的，请点击进行留言回复，万千网友为您解惑！