algorithm - 随机森林的简单解释

Question

我试图用简单的英语而不是数学来理解随机森林是如何工作的。谁能给我一个关于这个算法如何工作的非常简单的解释？

据我所知，我们在不告诉算法哪个特征应该归类为哪个标签的情况下提供特征和标签？就像我以前做基于概率的朴素贝叶斯一样，我们需要判断哪个特征应该是哪个标签。我离得很远吗？

如果我能得到任何非常简单的解释，我将不胜感激。

Answer 1

RandomForest 使用所谓的装袋方法。这个想法基于经典的偏差方差权衡。假设我们有一组(比如 N)具有低偏差但高交叉样本方差的过拟合估计量。所以低偏差是好的，我们想保持它，高方差是坏的，我们想减少它。 RandomForest 试图通过执行所谓的自举/子采样来实现这一点(正如@Alexander 提到的，这是对观察和特征的自举采样的组合)。预测是单个估计量的平均值，因此成功保留了低偏差特性。进一步根据中心极限定理，该样本平均值的方差等于个体估计量的方差除以 N 的平方根。所以现在，它同时具有低偏差和低方差特性，这就是为什么 RandomForest 通常优于独立估计器的原因。