R 随机森林变量重要性

Question

我正在尝试使用随机森林包在 R 中进行分类。

列出的变量重要性度量是:

• 第 0 类变量 x 的平均原始重要性得分
• 第 1 类变量 x 的平均原始重要性得分
• MeanDecreaseAccuracy
• 均值减少基尼

现在我知道这些“意思”是什么，因为我知道它们的定义。我想知道的是如何使用它们。

我真正想知道的是这些值在其准确度的情况下意味着什么，什么是好的值，什么是坏的值，最大值和最小值是什么，等等。

如果变量具有较高的 MeanDecreaseAccuracy 或 MeanDecreaseGini 是否意味着它重要或不重要？此外，任何有关原始分数的信息也可能很有用。我想知道与这些数字的应用相关的一切。

使用“错误”、“求和”或“排列”等词的解释不如不涉及任何随机森林工作原理的简单解释有用。

就像如果我想让有人向我解释如何使用 radio ，我不会期望解释涉及 radio 如何将 radio 波转换为声音。

Answer 1

An explanation that uses the words 'error', 'summation', or 'permutated' would be less helpful then a simpler explanation that didn't involve any discussion of how random forests works.

Like if I wanted someone to explain to me how to use a radio, I wouldn't expect the explanation to involve how a radio converts radio waves into sound.

在不深入讨论令人讨厌的波频率技术细节的情况下，您如何解释 WKRP 100.5 FM 中的数字“意味着什么”？坦率地说，即使您了解一些技术术语，随机森林的参数和相关性能问题也很难理解。

这是我的一些答案:

-mean raw importance score of variable x for class 0

-mean raw importance score of variable x for class 1

从随机森林进行简化 web page ，原始重要性得分衡量特定预测变量在成功分类数据方面比随机变量更有帮助。

-MeanDecreaseAccuracy

我想这只是在R module中，我相信它衡量了模型中包含该预测变量可以减少分类错误的程度。

-MeanDecreaseGini

Gini当用于描述社会的收入分配时，被定义为“不平等”，或基于树的分类中“节点不纯度”的度量。低基尼系数(即基尼系数下降幅度较大)意味着特定的预测变量在将数据划分为定义的类别时发挥更大的作用。如果不讨论分类树中的数据根据​​预测变量的值在各个节点上分割这一事实，就很难描述这一点。我不太清楚这如何转化为更好的性能。