gpt4 book ai didi

tensorflow - 带有窥视孔的 LSTM 实现

转载 作者:行者123 更新时间:2023-12-03 16:26:33 24 4
gpt4 key购买 nike

我一直在阅读有关 LSTM 的论文并检查其实现。有一点我不清楚。
在大多数论文中都提到从单元到门向量的权重矩阵应该是对角线的(例如:Alex page 5, 2013),但我没有在任何实现中看到这一点。
例如这个:
1
2
另一个例子来自mila实验室。
3

这些人是执行错误还是我遗漏了什么?

最佳答案

TensorFlow 实现确实使用对角矩阵,请参阅 here .请注意,这在实践中意味着窥孔仅从单元格到其自身,因此您正在执行元素向量乘法。

关于tensorflow - 带有窥视孔的 LSTM 实现,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35239461/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com