algorithm - 用EM算法填充多个缺失数据

Question

我正在学习this ppt .从第 22 页开始，它展示了如何使用 EM 算法用最可能的值填充缺失数据。我设法理解了这一点，但我开始想知道如何填写 2 个缺失的数据。如果仅 B 字段中的 2 个数据丢失，我可以看到我将如何计算它。但是，如果在 A 和 B 字段中都缺少一个数据怎么办？ ppt 的计算是假设 A 上的数据是可靠的，但在这种情况下它不是......有人可以解释一下吗？

Answer 1

如果您希望 A 和 B 都缺失值，则需要一些额外的隐藏变量。更准确地说:

假设您有 4 个隐藏变量，H1、H2、A' 和 B' 在 {0, 1} 中取值，这会生成您的观察结果 (A, B)，如下所示:

• 如果 H1=0，A = A'，否则 A = 'H'
• 如果 H1=0，B = B'，否则 B = 'H'

并假设 (A', B') 独立于 (H1, H2)。因此，您的模型由 (A', B') 的联合分布和 (H1, H2) 的联合分布参数化。

现在要学习模型，您可以像以前一样运行 EM，唯一的区别是您的隐藏变量 H 现在扩展了 A'、B'、H1 和 H2。一旦你的模型被学习，你可以用最有可能的对来填充缺失的观察对(给定模型的分布)。