python - 使用 Keras 进行贪婪分层训练

Question

我正在尝试在 Keras(版本 2.2.4-tf)中实现一个多层感知器，以迭代方式训练层。我一直在使用https://machinelearningmastery.com/greedy-layer-wise-pretraining-tutorial/作为一名模特，但事情不太适合我。这是我的代码:

# Train first layer
mlp = keras.models.Sequential()
mlp.add(keras.layers.Dense(units=512, activation='tanh', kernel_initializer='he_uniform'))
mlp.add(keras.layers.Dense(units=1, activation='sigmoid', kernel_initializer='he_uniform'))
mlp.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])
mlp.fit(X,y)
output_layer = mlp.layers[-1]

# Add and train second layer
mlp.pop()
for layer in mlp.layers:
    layer.trainable=False
mlp.add(keras.layers.Dense(units=512, activation='tanh', kernel_initializer='he_uniform'))
mlp.add(output_layer)
mlp.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])
mlp.fit(X,y)

我得到的错误是

 ('Error when checking model target: expected no data, but got:', array([1., 0., 0., 1., 1., 0., 0., 0., 1., 0., 1., 0., 1., 0., 1., 1., 1.,
       0., 0., 1., 1., 0., 0., 1., 0., 0., 0., 1., 1., 1., 1., 0., 0., 1.,
       1., 0., 0., 1., 1., 1., 0., 0., 1., 1., 1., 1., 0., 0., 1., 1., 1.,
       0., 0., 1., 1., 1., 1., 0., 0., 1., 0., 0., 0., 1., 1., 1., 1., 1.,
       0., 0., 0., 1., 0.], dtype=float32))

如果我尝试注释掉第二个编译，我会得到

ValueError: Weights for model sequential_3 have not yet been created. Weights are created when the Model is first called on inputs or `build()` is called with an `input_shape`.

有人知道我在这里缺少什么吗？

如果相关的话，我正在运行带有 Tensorflow-1.14.0 后端的 Keras，通过 mkl 存储库中的 conda 安装。

~ $ conda list tensorflow
# packages in environment at /home/justin/.conda/envs/local_idp:
#
tensorflow                1.14.0          mkl_py36h2526735_0  
tensorflow-base           1.14.0          mkl_py36h7ce6ba3_0  
tensorflow-estimator      1.14.0                     py_0  

非常感谢，

贾斯汀

Answer 1

我能够重现该问题。发生此问题的原因是使用tensorflow命名空间中的keras。替换

import tensorflow.keras as keras

与

import keras