tensorflow - tf.contrib.rnn.BasicLSTMCell 是单个 LSTM 单元还是 LSTM 层？

Question

在tensorflow中，有一个名为BasicLSTMCell的lstm实现，位于tf.contrib.rnn.BasicLSTMCell。它有一个参数 num_units 表示 LSTM 单元中的单元数。但我不知道那是什么意思。

如果我这样定义一个 lstm 单元:

lstm_cell = tf.contrib.rnn.BasicLSTMCell(512).

lstm_cell 是什么样子的？是lstm节点还是512节点的lstm层？谁能告诉我这个？

Answer 1

它是一个具有 512 个单元的 LSTM 层。

BasicLSTMCell 实现抽象类 RNNCell。来自文档:

Abstract object representing an RNN cell.

Every RNNCell must have the properties below and implement call with the signature (output, next_state) = call(input, state).

[...]

This definition of cell differs from the definition used in the literature. In the literature, 'cell' refers to an object with a single scalar output. This definition refers to a horizontal array of such units.

创建 LSTM 层以及展开反向传播槽时间的常用方法如下:

lstm_cell = tf.contrib.rnn.BasicLSTMCell(512)
outputs, final_state = tf.nn.static_rnn(cell=lstm_cell,
                           dtype=tf.float32,
                           inputs=some_input_sequence)

哪里:

• some_input_sequence 是 num_steps 张量列表，大小为 [batch_size, input_size]
• outputs 将在 some_input_sequence 的每个元素之后包含层的输出。所以它又是一个 num _steps 元素列表，大小为 [batch_size, 512](其中 512 是单元格的单元数)
• final_state 将包含处理完整个序列后的状态。特别地，对于 LSTM，它是一个具有两个元素的命名元组，c 和 h(LSTM 的两个状态)。