python - 具有多个输出的 Tensorflow val_loss 定义

Question

(使用 keras)训练模型时，val_loss(如 keras 训练日志中所示)/epoch_loss(如张量板中所示)指标是什么测量模型何时有多个输出？如果这很重要，那么这些输出是否也被加权了？
我的意思是多个单独的输出(例如 6 个形状 () 的张量)，而不是具有多个值的单个输出(例如 1 个形状 (6) 的张量)。 ^{(尽管后者的答案可能对 future 的谷歌用户有用。)}

我最初认为这将是所有输出的加权平均值。但我的观察与这个猜测并不相符。下面是张量板的屏幕截图，显示了每个输出的验证损失，以及 epoch_loss 值(也在验证中)。正如您所看到的，每个输出上的损失都在增加，但 epoch_loss 值却在不断减少。

我还确认这些指标与 val_* 指标相匹配(val_1_loss、val_2_loss、...、val_loss)显示在keras训练日志中。

请注意，我对调查损失增加的原因或修复模型的方法或其他任何内容不感兴趣。我知道这是一个糟糕的模型。这只是超参数搜索中的一个模型，我选择它作为该问题的一个很好的例子。尽管我目前使用 val_loss 作为超参数搜索优化指标，但从这些数据来看这似乎不是一个好主意。我可以创建自己的指标来对所有输出进行加权平均值，但想了解 val_loss 实际测量的内容。

Answer 1

what does the val_loss / epoch_loss metric measure when the model has multiple outputs? And if it matters, then also if those outputs are weighted?

损失值使用 loss_weights 系数计算为多个输出损失的加权和。当没有定义权重时，损失只是损失的总和。

以下是代码中的引用:

• Training
• Training_Utils