python - Call 函数何时以及如何在 Keras 的模型子类化中工作？

Question

我在 Hands-on Machine Learning with Scikit-Learn, Keras, and Tensorflow 中读到关于使用 Sub-classing API 构建动态模型的内容，主要涉及编写一个包含两个方法的子类:构造函数和调用函数。构造函数相当容易理解。但是，在构建模型时，我无法理解调用函数何时以及如何准确工作。

我使用了书中的代码并进行了如下实验(使用来自 sklearn 的加州住房数据集):

class WideAndDeepModel(keras.Model):
    def __init__(self, units=30, activation='relu', **kwargs):
        super().__init__(**kwargs)
        self.hidden1 = keras.layers.Dense(units, activation=activation)
        self.hidden2 = keras.layers.Dense(units, activation=activation)
        self.main_output = keras.layers.Dense(1)
        self.aux_output = keras.layers.Dense(1)
    def call(self, inputs):
        print('call function running')
        input_A, input_B = inputs
        hidden1 = self.hidden1(input_B)
        hidden2 = self.hidden2(hidden1)
        concat = keras.layers.concatenate([input_A, hidden2])
        main_output = self.main_output(concat)
        aux_output = self.aux_output(hidden2)
        return main_output, aux_output

model = WideAndDeepModel()
model.compile(loss=['mse','mse'], loss_weights=[0.9,0.1], optimizer='sgd')
history = model.fit([X_train_A, X_train_B],[y_train, y_train], epochs=20, validation_data=([X_val_A, X_val_B], [y_val, y_val]))

下面是训练过程中的输出:

Epoch 1/20
***call function running***
***call function running***
353/363 [============================>.] - ETA: 0s - loss: 1.6398 - output_1_loss: 1.5468 - output_2_loss: 2.4769
***call function running***
363/363 [==============================] - 1s 1ms/step - loss: 1.6224 - output_1_loss: 1.5296 - output_2_loss: 2.4571 - val_loss: 4.3588 - val_output_1_loss: 4.7174 - val_output_2_loss: 1.1308
Epoch 2/20
363/363 [==============================] - 0s 1ms/step - loss: 0.6073 - output_1_loss: 0.5492 - output_2_loss: 1.1297 - val_loss: 75.1126 - val_output_1_loss: 81.6632 - val_output_2_loss: 16.1572
...

调用函数在第一个时期的训练开始时运行两次，然后几乎在第一个时期结束时运行。之后它永远不会运行。

在我看来，虽然层是在构造函数的早期实例化的，但层之间的连接(在调用函数中定义)建立得相当晚(在训练开始时)。在我看来，层与层之间没有这种所谓的连接的逻辑实体，连接只是按特定顺序将一层的输出传递到另一层的过程。我的理解正确吗？

第二个问题是为什么call函数在训练初期运行了三次而不是一次。

Answer 1

the layers are instantiated early in the constructor function

正确

the connection between the layers are established quite late

同样正确，权重在您调用 model.build() 或首次调用模型时初始化，如您在此 guide 中所见对 Keras 层进行子类化:

class Linear(keras.layers.Layer):
    def __init__(self, units=32):
        super(Linear, self).__init__()
        self.units = units

    def build(self, input_shape):
        self.w = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="random_normal",
            trainable=True,
        )
        self.b = self.add_weight(
            shape=(self.units,), initializer="random_normal", trainable=True
        )

    def call(self, inputs):
        return tf.matmul(inputs, self.w) + self.b

why the call function gets run three times at the early stage

第一次大概是第一次调用模型的时候，实例化了权重。然后另一次构建 Tensorflow 图，它​​是运行 Tensorflow 模型的非 Python 代码。该模型被调用一次以创建此图，进一步的调用在 Python 之外，因此您的打印函数不再是其中的一部分。您可以使用 model.compile(..., run_eagerly=True) 更改此行为。最后，第三次是第一次通过验证数据。