machine-learning - 贝叶斯学习中的版本空间到底是什么？

Question

在贝叶斯学习中，给定数据的假设概率为

P(h|D) = 1/|VSh,d|

根据google，VSh，d是H假设的子集，与D一致（即VSh，d是H wrt D的版本空间）。

我无法理解它们对版本空间的确切含义。有人可以给我一个解释和一个实际的例子吗？

Answer 1

根据贝叶斯学习，我们知道

P(h|D) = (P(D|h)*P(h)) / P(D)

其中 P(D|h) = 1如果假设假设h与数据D一致，则 P(h) = 1/|H|假设每个假设同等可能，P（D）是观察假设集合H中数据的概率。
让我们分解一下：
我们知道H是所有可能假设的集合。因此，D的概率将等于真正满足我们的假设的所有假设的集合。
这是版本空间，是与我们的数据D一致的所有假设的集合，或者换句话说，满足数据的所有假设的集合。
因此 P(D) = |VSh,d|/|H|。

当您将所有这些术语放到位时，您将获得：

P(h|D) = 1/|VSh,d|

其中||在此表示大小，即版本空间的大小。

范例：

假设我们有数据集 [4, 8, 16]，并且给出的所有可能假设的集合为


H1：2的幂
H2：偶数
H3：4的幂
H4：介于1到50之间的所有值


现在，如果您看到只有三个假设可以满足我们的数据[H1，H2，H4]。这称为版本空间，[H1，H2，H3，H4]是假设集。

因此，您的P（D）将变为 |VS|/|H|，即 3/4。