sequence - 如何使用隐马尔可夫模型进行 future 预测

Question

我有许多可变长度的序列。对于这些，我想训练一个隐马尔可夫模型，稍后我想用它来预测(部分)序列的可能延续。到目前为止，我已经找到了两种使用 HMM 预测 future 的方法:

1) 幻觉延续并获得该延续序列的可能性。选择可能性最高的一个作为您的预测。此方法需要明确了解 continations 的可能值。

2) 使用维特比算法和(部分)序列来获得最可能的隐藏状态序列。取这个序列中最后一个隐藏状态的发射分布并预测例如该分布的平均值(通常是高斯分布)。

现在我的问题是:有没有其他可能更有原则的方法来使用 HMM 预测 future ？

谢谢!

Answer 1

HMM 中的马尔可夫假设指出，T+1 时刻的状态独立于 T 之前的所有状态，以 T 为条件。

您的选项 2 接近我的建议，除了您对最后一个状态使用最大似然分配。相反，计算序列中最后一项的隐藏状态的分布。这相当于在维特比算法中用“总和”替换“最大值”。 (参见 https://www.coursera.org/course/pgm ，并搜索“sum-product”算法，也称为信念传播)。

然后，为了对 future 进行采样，您首先要做的是根据给定的分布对最后一个状态进行采样。然后使用转换矩阵对下一个隐藏状态进行采样并重复令人恶心。由于您在序列中的最后一个点之后没有实际观察，因此您正在从马尔可夫链中进行采样。鉴于您对部分序列的了解，这将为您提供 future 的样本。这与 Viterbi 不同的原因在于，即使是对部分赋值的隐藏变量的最可能赋值也可能具有低可能性。通过使用最后一个状态的整个分布，您可以更好地估计以下(未观察到的 future )状态。