python - Keras:层和模型之间的区别，或者何时实现层？

Question

我正在查看 advanced Keras tutorial on the tensorflow website ，我对 Bahdanau attention 的实现有点不解:

class BahdanauAttention(tf.keras.Model):
  ...

所以看起来他们正在将其实现为一个模型。然而，它本身并不是一个完整的、有用的模型——它只是正在优化的更大的 Model(在本例中为解码器)的一部分。以后用作

attention_layer = BahdanauAttention(10)

它强调了一个事实，即它可以被看作只是 Model 的一层。

实际上，一旦意识到一个模型可以作为另一个模型的一部分进行重用，Model 和 Layer 之间的界限就会变得有点模糊。

所以我的问题是，

1. Keras 中的 Layer 和 Model 有什么区别，以及

2. 什么时候适合将层实现为 Layer，而不是始终将新层实现为 Model。

Answer 1

我觉得你有点糊涂了。从功能上讲，层和模型是完全不同的，我不明白为什么需要将它们进行比较。换句话说，模型通常是层的集合。您有责任将它们添加到模型中并连接它们。它们可以以各种复杂的方式连接。当然，您可以创建只有一层的模型，但这取决于您使用它的目的。

关于您的第二个问题，确实没有关于何时做什么的指南。通常，您会尝试用尽所有选项，直到找到最有效的选项。模型之间的链接模型和共享层可能是决定您是只需要一个简单层还是将其插入模型的决定性因素。