tensorflow - LSTM 单元的单元数和内存 "distance"之间有关系吗？

Question

我理解控制 LSTM 的方程并且我已经看到 this post其中讨论了 LSTM 的单元数量意味着什么，但我想知道一些不同的东西 - LSTM 中的单元数量与内存的“距离”/“外观”的数量之间是否存在关系例如，如果我的数据的采样率为 1000 Hz，并且我有一个包含 100 个单元的 LSTM，这是否意味着我的模型只能学习/记住之间的关系过去 100 毫秒的事情？还是我把这种关系过于简单化了？

Answer 1

据我所知，没有。或者至少，不是直接的 - 但更高潜在维度的 LSTM 层将具有更大的容量，并且可能有更多的“空间”来容纳更复杂的模式，包括那些利用“遥远”内存的模式。

使用更多 LSTM 层也可能有助于学习更复杂的模式。

关于 100 个单元格 - 问题的 100 个时间步长部分 - 是的，至少可以说这是过于简单化了。