machine-learning - 双向 LSTM 和 LSTM 有什么区别？

Question

有人可以解释一下吗？我知道双向 LSTM 具有前向和反向传递，但是与单向 LSTM 相比，它有什么优势？

它们各自更适合什么？

Answer 1

LSTM 的核心是使用隐藏状态保留已经通过它的输入信息。

单向 LSTM 仅保留过去的信息，因为它看到的唯一输入来自过去。

使用双向将以两种方式运行您的输入，一种从过去到 future ，一种从 future 到过去，这种方法与单向的不同之处在于，在向后运行的 LSTM 中，您保留来自 future 的信息 并且结合使用两个隐藏状态，您可以在任何时间点保存过去和 future 的信息。

它们适用于一个非常复杂的问题，但 BiLSTM 表现出了非常好的结果，因为它们可以更好地理解上下文，我将尝试通过一个例子来解释。

假设我们尝试预测句子中的下一个单词，从高层次上看，单向 LSTM 将看到的是

The boys went to ....

并且将尝试仅根据上下文来预测下一个单词，例如，使用双向 LSTM，您将能够看到更远的信息

前向 LSTM:

The boys went to ...

后向 LSTM:

... and then they got out of the pool

您可以看到，使用 future 的信息，网络可以更轻松地理解下一个单词是什么。