r - bnlearn::bn.fit方法 "mle"和 "bayes"的区别和计算

Question

我试图在包 bnlearn 的 bn.fit 函数中理解 bayes 和 mle 这两种方法之间的区别。

我知道频率论者和贝叶斯方法之间关于理解概率的争论。在理论层面上，我认为最大似然估计 mle 是一种简单的频率论方法，将相对频率设置为概率。但是要进行哪些计算才能得到 bayes 估计值？我已经 checkout bnlearn documenation , description of the bn.fit function还有一些application examples ，但没有任何地方对正在发生的事情进行真实描述。

我还尝试通过首先检查 bnlearn::bn.fit 来理解 R 中的函数，然后是 bnlearn:::bn.fit.backend，然后是到 bnlearn:::smartSapply 但后来我卡住了。

当我将这个包用于学术工作时，我将不胜感激，因此我应该能够解释发生了什么。

Answer 1

bnlearn::bn.fit 中的贝叶斯参数估计适用于离散变量。关键是可选的 iss 参数:“贝叶斯方法用来估计与离散节点相关的条件概率表 (CPT) 的假想样本大小”。

因此，对于某些网络中的二进制根节点 X，bnlearn::bn.fit 中的 bayes 选项返回 (Nx + iss/cptsize)/(N + iss) 作为 X = x 的概率，其中 N 是您的样本数， Nx为X = x的样本数，cptsize为X的CPT大小；在这种情况下 cptsize = 2。相关代码在 bnlearn:::bn.fit.backend.discrete 函数中，特别是以下行:tab = tab + extra.ar​​gs$iss/prod(dim(tab) )

因此，iss/cptsize 是 CPT 中每个条目的虚构观察数，而不是 N，即“真实”观察数。使用 iss = 0，您将获得最大似然估计，因为您没有先前的假想观察。

iss 相对于 N 越高，先验对后验参数估计的影响越强。在固定iss 和不断增长的N 的情况下，贝叶斯估计器和最大似然估计器收敛到相同的值。

一个常见的经验法则是使用一个小的非零 iss，这样您就可以避免 CPT 中的零条目，对应于数据中未观察到的组合。这样的零条目可能会导致网络泛化能力很差，例如 Pathfinder system 的一些早期版本.

有关贝叶斯参数估计的更多详细信息，您可以查看 Koller and Friedman 的书.我想许多其他贝叶斯网络书籍也涵盖了这个主题。