machine-learning - 决策树桩

Question

我想使用 AdaBoost 实现一个 java 应用程序，它可以对大象是非洲象还是亚洲象进行分类。我的大象类有字段:

int size;
int weight;
double sampleWeight;
ElephantType type; // (which can be Asian or African).

我是 AdaBoost 的新手，我了解到好的弱分类器是决策树桩。我想知道我是否应该只创建 2 个决策树桩(1 个用于尺寸，1 个用于重量)，还是应该制作更多决策树桩(尺寸和重量几乎没有不同)？分类器的创建究竟是什么样的？

Answer 1

您将创建许多决策树桩。提升的要点是，每次创建新的分类器(在您的情况下为决策树桩)时，您都会增加分类器错误分类的所有实例的权重(重要性)，以便下一个分类器更多地关注错误分类的实例。您可以在每个步骤中随机选择在树桩中使用哪两个功能。一旦您创建了整套分类器(树桩)，它们就会使用多数投票来对新实例进行分类。