lstm - batch_first是否会影响Pytorch LSTM中的隐藏张量？

Question

batch_first是否会影响Pytorch LSTM中的隐藏张量？

也就是说，如果batch_first参数为true，
隐藏状态是否为(numlayer*direction,num_batch,encoding_dim)或(num_batch,numlayer*direction,encoding_dim)
我都测试过，都没有错误。

Answer 1

我前段时间在想同样的问题。就像概述的外行狗一样，在文档中说

batch_first – If True, then the input and output tensors are provided as (batch, seq, feature)

据我了解的问题，我们谈论的是隐藏/单元状态元组，而不是实际的输入和输出。

对我来说，这似乎并不明显，因为它们提到了这不会影响隐藏状态:

(batch, seq, feature)

这显然是指输入和输出，而不是由两个具有以下形状的元组组成的状态元组:

(num_layers * num_directions, batch, hidden_size)

因此，我可以肯定的是，隐藏状态和单元状态不受此影响，对于我更改隐藏状态元组的顺序也没有任何意义。

希望这可以帮助。