python - Keras 训练 warm_start

Question

是否有可能像在 scikit-learn 中使用 warm_start 参数一样，使用所有超参数(包括降低学习率)和从以前的 epoch 保存的权重继续训练 Keras 估计器？像这样:

estimator = KerasRegressor(build_fn=create_model, epochs=20, batch_size=40, warm_start=True)

具体来说，热启动应该这样做:

warm_start : bool, optional, default False When set to True, reuse the solution of the previous call to fit as initialization, otherwise, just erase the previous solution.

Keras 中有类似的东西吗？

Answer 1

是的——这是可能的。但是比较麻烦。您需要使用 train_on_batch保留所有模型参数(也包括优化器参数)的函数。

这很麻烦，因为您需要自己将数据集分成多个批处理，并且您也失去了应用 Callbacks 的可能性。并使用自动 progbar。我希望在新的 Keras 版本中，这个选项将添加到 fit 方法中。