tensorflow - 在 tensorflow 中创建多层循环神经网络

Question

我正在尝试在 tensorflow 中创建一个带有 GRU 单元(以及 LSTM 单元)的多层循环神经网络。我查看了多个来源，包括官方教程。但我不断看到以下多层 RNN 模式(此处使用 GRU 单元显示)。

cell = GRUCell(num_neurons)  # Or LSTMCell(num_neurons)
cell = DropoutWrapper(cell, output_keep_prob=dropout)
cell = MultiRNNCell([cell] * num_layers)

此代码片段取自RNN Tensorflow Introduction 。我对 [cell] * num_layers 的理解是，同一个对象 cell 在列表中被引用 num_layer 次。因此，MultiRNNCell 不会创建一个深度网络，其中每一层都具有与之前层相同的权重。如果有人能澄清这里到底发生了什么，那就非常有见地了。

Answer 1

我假设您已经很好地了解 TensorFlow 的概念和执行模型。如果没有，请查看tensorflow.org 上的教程，特别是变量教程。

GRUCell 的构造函数不会向 Graph 添加任何节点。仅当您调用实例(即 cell())时，变量和操作才会添加到图表中。当 MultiRNNCell 被调用时，它将在调用子层之前创建不同的变量范围。这样每一层都有自己的变量。