random-forest - 插入符号 : using random forest and include cross-validation

Question

我使用 caret 包训练随机森林，包括重复交叉验证。我想知道是否使用了 Breiman 的原始 RF 中的 OOB，或者它是否被交叉验证所取代。如果它被替换，我是否具有 Breiman 2001 中描述的相同优势，例如通过减少输入数据之间的相关性来提高准确性？由于 OOB 是通过替换绘制的，而 CV 是在没有替换的情况下绘制的，因此这两种程序是否具有可比性？错误率的 OOB 估计是多少(基于 CV)？

树是怎么长出来的？是否使用CART？

由于这是我的第一篇文章，如果您需要更多详细信息，请告诉我。非常感谢。

Answer 1

这里有很多基本问题，您最好阅读有关机器学习或预测建模的书籍。这可能就是为什么你没有得到太多回应的原因。

对于 caret，您还应该引用 package website其中一些问题得到了解答。

这里有一些注意事项:

• RF 的 CV 和 OOB 估计有些不同。 This post可能有助于解释如何。对于此应用程序，在构建模型时计算随机森林的 OOB 率，而 CV 使用在计算随机森林模型后预测的保留样本。
• 原始随机森林模型(此处使用)使用未修剪的 CART 树。同样，这在许多教科书和论文中都有。

最大