python - Keras 序列模型输入层

Question

在 Keras 中创建顺序模型时，我知道您在第一层提供输入形状。这个输入形状是否会创建一个隐式输入层？

例如，下面的模型明确指定了 2 个 Dense 层，但这实际上是一个 3 层模型，其中包括一个由输入形状暗示的输入层、一个包含 32 个神经元的隐藏密集层，以及一个包含 10 个神经元的输出层可能的输出？

model = Sequential([
    Dense(32, input_shape=(784,)),
    Activation('relu'),
    Dense(10),
    Activation('softmax'),
])

Answer 1

嗯，它实际上确实是一个隐式输入层，即您的模型是具有三层(输入层、隐藏层和输出层)的“古老”神经网络的示例。这在 Keras 功能 API 中更加明确可见(查看文档中的 example)，其中您的模型将编写为:

inputs = Input(shape=(784,))                 # input layer
x = Dense(32, activation='relu')(inputs)     # hidden layer
outputs = Dense(10, activation='softmax')(x) # output layer

model = Model(inputs, outputs)

实际上，这个隐式输入层是您必须仅在 Sequential API 模型的第一(显式)层中包含 input_shape 参数的原因 - 在后续层中，输入形状是从前面的输出推断出来的(请参阅core.py源代码中的comments)。

您还可以找到documentation关于 tf.contrib.keras.layers.Input 的启发。