kera中使用keras.banked.ctc_decoder()导致内存不断增加的问题解决

kera中使用keras.banked.ctc_decoder()导致内存不断增加的问题解决

遇到的问题

在使用keras训练了模型后，使用模型进行测试，测试过程中发现随着测试数据的增加，测试速度不断降低，最后近乎停止。

寻找问题根源

通过在网上查找资料发现，此问题直接原因是调用keras.banked.ctc_decoder()或者keras.bankend.get_value()两个函数时，每次调用都会在计算图中加入一个新的节点，导致内存不断增加。

解决方案

1.重写或更改源代码

本人能力有限，未尝试此种做法。

2.在测试过程中将数据批次送入

在我的项目实现中，每次测试一千条数据速度虽有降低但是可以接受，所以为了解决这个问题，我每送入一千条数据，将session重新清除后再送入下一个一千条数据，这样总体测试速度达到了一个可以接受的速度。大致代码如下：

for i in range(iter_Thousand):
    model_session = Acoustic_model(datapath, model_Name = model_Name)
    model_session.Load_Model(filename = model_Path)
    word_Num_T,word_Error_Num_T,replace_Error_T,insert_Error_T,delete_Error_T = model_session.Test_model(modelpath = model_Path, datapath = './dataset', str_Data = str_Data, data_Count = 1000 , iter_Thousand = i, now_Time = now_Time)
    BK.clear_session()