- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
根据 wikipedia-lstm-math-equation 中的数学公式, 如下所示,
应该只有隐藏状态h_t
和单元格状态c_t
。但是,当我尝试在 Keras 上编写 RNN 代码时,存在三个:lstm_output
、state_h
和 state_c
。
我现在想知道 lstm_output
的数学公式是什么?这是我的代码:
from keras.layers import Input, LSTM
lstm_input = Input(shape=(28, 10))
lstm_output, state_h, state_c = LSTM(units=32,
return_sequences=True,
return_state=True,
unroll=True)(lstm_input)
print(lstm_output, state_h, state_c)
它给了
Using TensorFlow backend.
(<tf.Tensor 'lstm_1/transpose_1:0' shape=(?, 28, 32) dtype=float32>, <tf.Tensor 'lstm_1/mul_167:0' shape=(?, 32) dtype=float32>, <tf.Tensor 'lstm_1/add_221:0' shape=(?, 32) dtype=float32>)
最佳答案
让我们分解一下,看看this line来自源代码 - return h, [h, c]
:
h
。所以它的形状是 (batch_size, sequence_length, hidden_size)
,在你的例子中是 (?, 28, 32)
。作为documentation说,它作为一个序列返回,因为你设置了 return_sequences=True
。h
,如果您可以检查,它应该等于lstm_output[:,- 1]
。请注意为什么它的形状是 (?, 32)
,因为它是最后一个时间步的输出,而不是每个时间步的输出。c
。这些方程通常以不同的方式实现以优化某些特征,但它们都遵循 original paper .请注意,激活可能会有变化,例如使用 hard_sigmoid
进行循环激活,这些应该在文档中明确注明。
关于keras - Keras 中 LSTM 的数学公式?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56809242/
我得到了以下 Excel 公式来计算法国系统贷款利息: =+G15*B15/(1-(1+G15)^(-H15)) 地点: G15 = 1.33% B15 = importe H15 = plazo 由
我必须构建一个像这样的序列 (amount-(amount/36*1)) + (amount-(amount/36*1 + amount-amount/36*2)) + (amount-(amount
在R语言的绘图函数中,如果文本参数是合法的R语言表达式,那么这个表达式就被用Tex类似的规则进行文本格式化。 y <- function(x) (exp(-(x^2)/2))/sqrt(2
我喜欢转换旧的 BASIC 游戏——我遇到了一个有这个奇怪公式的游戏。目前我正在用 Pascal 编写,但我可以用任何语言编写。翻遍代码后,我找不到这个 var 是否在使用,但仍然想知道当时 BASI
我需要在 C 中实现这个数学公式: 我写了一段代码: #include int c(int n, int k) { if(k == 0) return n; if(c
关闭。这个问题是off-topic .它目前不接受答案。 想改进这个问题吗? Update the question所以它是on-topic用于堆栈溢出。 关闭 10 年前。 Improve thi
是否有任何常规范式来表示可以被计算机读取的数学公式? 我正在研究一些数学问题,并有某种 TDD 方法来解决它。每次我陷入一个证明(或者只是我还没有证明,但是对结果应该是什么的一些直觉)时,我倾向于编写
我正在尝试用 C 语言实现一个数学公式来计算特定 Runescape 级别所需的 XP,但我没有得到正确的输出。 1 级给出“75”XP,99 级给出“11059837”。我的实现有什么问题吗?我想不
我想在绘图中添加一个包含 Latex 公式的 geom_text(),以描述 2 个矩阵中每个值的平均百分比: library(latex2exp) library(ggplot2) library(
我是一名优秀的程序员,十分优秀!