pymc - 多级模型中的奇数相关后验轨迹图

Question

我正在用一个简单的多级模型尝试 PyMC3。当同时使用假数据和真实数据时，随机效应分布的轨迹会相互移动(见下图)，并且似乎是同一轨迹的偏移量。这是 NUTS 的预期产物还是表明我的模型存在问题？

这是真实数据的跟踪图:



这是一个 IPtyhon notebook模型和用于创建假数据的函数。这是corresponding gist .

Answer 1

我希望这会根据 alpha 的组均值分布发生。如果您考虑一下，如果组均值围绕它移动，则会对所有 alpha 产生相同程度的影响。您可以通过对某些 alpha 进行组均值跟踪的散点图来确认这一点。由于组均值和方差与各个 RV 之间存在复杂的相互依赖性，因此对于大多数采样器而言，分层模型通常是困难的。见 http://arxiv.org/abs/1312.0906有关这方面的更多信息。

在您的特定情况下，跟踪对我来说并不太令人担忧，尤其是在迭代 1000 次之后。因此，您可能只是将其丢弃为老化，并记住您有一些采样噪声，但总体上可能得到了正确的后验。此外，您可能希望执行后验预测检查，以查看模型是否可以重现您感兴趣的数据中的模式。

或者，您可以尝试使用 pm.find_hessian() 来估计更好的 Hessian ，例如https://github.com/pymc-devs/pymc/blob/3eb2237a8005286fee32776c304409ed9943cfb3/pymc/examples/hierarchical.py#L51

我还发现这篇论文看起来很有趣(还没有读过，但在 PyMC3 中实现可能很酷):arxiv-web3.library.cornell.edu/pdf/1406.3843v1.pdf