tensorflow - 在 TensorFlow 中预训练神经网络

Question

我正在训练一个深度神经网络。直接训练整个网络很困难，因此，我更喜欢逐层训练。首先，我训练一个只有一个隐藏层的网络。之后，我使用 tf.train.Saver 保存模型。下次，我通过调用恢复变量:

saver.restore(sess, "runs/simple-model.ckpt")

当然，这次架构变了，因为我在隐藏层和输出层之间插入了一个新的层，使用了一个新的变量。为此，Tensorflow 抛出错误:Key not found

我的问题是:如何在Tensorflow中逐层训练神经网络？我想在对整个网络进行最终微调之前进行。非常感谢。

Answer 1

尝试用共享权重定义整个网络。定义一个只运行所需层并最终保存整个网络的函数，而不是对所有层进行训练。