python - 如何在 Tensorflow 2.2 中训练具有多个输入的 Keras 模型？

Question

我想用两个输入(一个文本输入和一些数字特征)训练一个 Keras 模型，但我很难让它工作。我已经按照 Tensorflow documentation about models with multiple inputs 中的描述设置了一个模型:

import tensorflow as tf
from tensorflow.keras import Input, Model, models, layers


def build_model():
    input1 = Input(shape=(50,), dtype=tf.int32, name='x1')
    input2 = Input(shape=(1,), dtype=tf.float32, name='x2')
    y1 = layers.Embedding(1000, 10, input_length=50)(input1)
    y1 = layers.Flatten()(y1)
    y = layers.Concatenate(axis=1)([y1, input2])
    y = layers.Dense(1)(y)
    return Model(inputs=[input1, input2], outputs=y)

构建该模型也能正常工作:

model = build_model()
model.compile(loss='mse')
model.summary()

您可以在 this gist 中找到 summary() 的输出.

然后需要一些(虚拟)数据来适应模型:

def make_dummy_data():
    X1 = tf.data.Dataset.from_tensor_slices(tf.random.uniform([100, 50], maxval=1000, dtype=tf.int32))
    X2 = tf.data.Dataset.from_tensor_slices(tf.random.uniform([100, 1], dtype=tf.float32))
    X = tf.data.Dataset.zip((X1, X2)).map(lambda x1, x2: {'x1': x1, 'x2': x2})
    y_true = tf.data.Dataset.from_tensor_slices(tf.random.uniform([100, 1], dtype=tf.float32))
    return X, y_true


X, y_true = make_dummy_data()
Xy = tf.data.Dataset.zip((X, y_true))
model.fit(Xy, batch_size=32)

...但现在 fit() 失败并出现一条无法理解的错误消息(请参阅 full message here )，该消息以(可能相关的)警告开头:

WARNING:tensorflow:Model was constructed with shape (None, 50) for input Tensor("x1:0", shape=(None, 50), dtype=int32), but it was called on an input with incompatible shape (50, 1).

咦，尺寸为 1 的额外维度从何而来？而且，我该如何摆脱它？

还有一件事:通过移除 Embedding 层进一步简化这个虚拟模型确实突然让模型运行了。

如果你想玩上面的例子，我准备了a notebook on Google Colab for it .任何帮助表示赞赏。

Answer 1

作为 fit 的文档状态:

batch_size
Integer or None. Number of samples per gradient update. If unspecified, batch_size will default to 32. Do not specify the batch_size if your data is in the form of datasets, generators, or keras.utils.Sequence instances (since they generate batches).

也就是说，如果您使用数据集来训练您的模型，则预计它会提供批处理，而不是单个示例。形状 (50, 1) 可能来自 Keras，假设单个 50 元素示例实际上是一批 50 个 1 元素示例。

您可以像这样简单地修复它:

Xy = tf.data.Dataset.zip((X, y_true)).batch(32)
model.fit(Xy)