lstm - 是否可以在 PyTorch 中使用 LSTMCells 模块实现多层 LSTM？

Question

在 PyTorch 中，有一个 LSTM 模块，除了输入序列、隐藏状态和单元状态之外，它还接受 num_layers 参数，该参数指定我们的 LSTM 有多少层。

然而，还有另一个模块 LSTMCell，它仅输入大小和隐藏状态数量作为参数，没有 num_layers 因为这是多层 LSTM 中的单个单元。

我的问题是将 LSTMCell 模块连接在一起以达到与 num_layers > 1 的多层 LSTM 相同的效果的正确方法是什么

Answer 1

LSTMCell 是 LSTM 网络的基本构建 block 。您应该使用 LSTM 模块(内部使用 LSTMCell)。如果您想自己执行此操作，最好的方法是阅读源代码( https://github.com/pytorch/pytorch/blob/master/torch/nn/modules/rnn.py )。

基本上，您希望每一层使用一个 LSTMCell，并且您应该小心如何从输入到输出，逐层考虑隐藏状态。我也有卷积 LSTM 的基本实现，但想法是相同的。您可以在这里检查: https://github.com/rogertrullo/pytorch_convlstm/