python保存模型_凯拉斯:如何保存模型并继续训练?

我有一个模型,我已经训练了40个时代。我为每个时代保留了检查点,还用model.save()保存了模型。训练代码是n_units = 1000

model = Sequential()

model.add(LSTM(n_units, input_shape=(None, vec_size), return_sequences=True))

model.add(Dropout(0.2))

model.add(LSTM(n_units, return_sequences=True))

model.add(Dropout(0.2))

model.add(LSTM(n_units))

model.add(Dropout(0.2))

model.add(Dense(vec_size, activation='linear'))

model.compile(loss='mean_squared_error', optimizer='adam')

# define the checkpoint

filepath="word2vec-{epoch:02d}-{loss:.4f}.hdf5"

checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')

callbacks_list = [checkpoint]

# fit the model

model.fit(x, y, epochs=40, batch_size=50, callbacks=callbacks_list)

然而,当装载模型并再次训练时,它会像以前没有训练过一样从头开始。输球不是从上次训练开始的。

让我困惑的是,当我用重新定义的模型结构和load_weight加载模型时,model.predict()工作得很好。因此,我相信模型权重是加载的。model = Sequential()

model.add(LSTM(n_units, input_shape=(None, vec_size), return_sequences=True))

model.add(Dropout(0.2))

model.add(LSTM(n_units, return_sequences=True))

model.add(Dropout(0.2))

model.add(LSTM(n_units))

model.add(Dropout(0.2))

model.add(Dense(vec_size, activation='linear'))

filename = "word2vec-39-0.0027.hdf5"

model.load_weights(filename)

model.compile(loss='mean_squared_error', optimizer='adam')

但是,当我继续训练filepath="word2vec-{epoch:02d}-{loss:.4f}.hdf5"

checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')

callbacks_list = [checkpoint]

# fit the model

model.fit(x, y, epochs=40, batch_size=50, callbacks=callbacks_list)

损失和初始状态一样高。

但都不管用。有人能帮我吗?谢谢。

更新

我试过了model.save('partly_trained.h5')

del model

load_model('partly_trained.h5')

它起作用了。但当我关闭python时,重新打开并再次load_model。它失败了。损失和初始状态一样高。

更新

我试过于洋的示例代码。它起作用了。但回到我的代码,我还是失败了。

这是最初的训练。第二个纪元应该以损失=3.1开始。13700/13846 [============================>.] - ETA: 0s - loss: 3.0519

13750/13846 [============================>.] - ETA: 0s - loss: 3.0511

13800/13846 [============================>.] - ETA: 0s - loss: 3.0512Epoch 00000: loss improved from inf to 3.05101, saving model to LPT-00-3.0510.h5

13846/13846 [==============================] - 81s - loss: 3.0510

Epoch 2/60

50/13846 [..............................] - ETA: 80s - loss: 3.1754

100/13846 [..............................] - ETA: 78s - loss: 3.1174

150/13846 [..............................] - ETA: 78s - loss: 3.0745

我关闭了Python并重新打开它。使用model = load_model("LPT-00-3.0510.h5")加载模型,然后使用filepath="LPT-{epoch:02d}-{loss:.4f}.h5"

checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')

callbacks_list = [checkpoint]

# fit the model

model.fit(x, y, epochs=60, batch_size=50, callbacks=callbacks_list)

损失从4.54开始。Epoch 1/60

50/13846 [..............................] - ETA: 162s - loss: 4.5451

100/13846 [..............................] - ETA: 113s - loss: 4.3835

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值