JAVA调用 keras_在多处理中使用keras

我需要针对从另一个模型做出的预测来训练keras模型 . 预测与一些CPU繁重的代码相关联，因此我希望将它们并行化并让代码在工作进程中运行 . 这是我想要执行的代码：

import numpy as np

from keras.layers import Input, Dense

from keras.models import Model

from keras.optimizers import Adam

def create_model():

input_layer = Input((10,))

dense = Dense(10)(input_layer)

return Model(inputs=input_layer, outputs=dense)

model_outside = create_model()

model_outside.compile(Adam(1e-3), "mse")

def subprocess_routine(weights):

model_inside = create_model()

model_inside.set_weights(weights)

while True:

# lots of CPU

batch = np.random.rand(10, 10)

prediction = model_inside.predict(batch)

yield batch, prediction

weights = model_outside.get_weights()

model_outside.fit_generator(subprocess_routine(weights),

epochs=10,

steps_per_epoch=100,

use_multiprocessing=True,

workers=1)

这会产生错误

E tensorflow / core / grappler / clusters / utils.cc：81]无法获取设备属性，错误代码：3

我找到了上面的问题，答案是将keras导入到子进程中 . 我已将所有导入添加到 subprocess_routine 中 . 但这不会改变错误 . 可能有必要从主进程中完全消除keras导入，但在我的设置中，这将意味着巨大的重构 .

Keras多线程似乎有效 . 在本期中，向下滚动到最后一条注释：https://github.com/keras-team/keras/issues/5640在我的代码中，它看起来像这样：

model_inside = create_model()

model_inside._make_predict_function()

graph = tf.get_default_graph()

def subprocess_routine(model_inside, graph):

while True:

batch = np.random.rand(10, 10)

with graph.as_default():

prediction = model_inside.predict(batch)

yield batch, prediction

model_outside.fit_generator(subprocess_routine(model_inside, graph),

epochs=10,

steps_per_epoch=100,

use_multiprocessing=True,

workers=1)

但错误信息是相同的 .

由于问题显然与子进程的初始化有关，我试图在每个子进程中创建一个新的会话：

def subprocess_routine(weights):

import keras.backend as K

import tensorflow as tf

sess = tf.Session()

K.set_session(sess)

model_inside = create_model()

model_inside.set_weights(weights)

while True:

batch = np.random.rand(10, 10)

prediction = model_inside.predict(batch)

yield batch, prediction

它会在同一错误消息上生成变体：

E tensorflow / stream_executor / cuda / cuda_driver.cc：1300]无法检索CUDA设备计数：CUDA_ERROR_NOT_INITIALIZED

再次，初始化似乎被打破了 .

如何在我的主进程和多处理生成的子进程中运行keras？