algorithm - 为随机森林训练程序构建数据集

Question

我应该使用bagging(bootstrap aggregating 的缩写)技术来训练随机森林分类器。我读了here这种学习技术的描述，但我还没有弄清楚我最初是如何组织数据集的。

目前我首先加载所有正面示例，然后紧接着加载负面示例。而且，正例少于负例的一半，所以从数据集中均匀采样，得到负例的概率大于得到正例的概率。

我应该如何构建初始数据集？我是否应该打乱包含正面和负面示例的初始数据集？

Answer 1

装袋依赖于使用bootstrap samples训练不同的预测器，并汇总它们的结果。有关完整详细信息，请参阅上面的链接，但简而言之 - 您需要从数据中重复采样(即，如果您有 N 个元素，编号为 1 到 N，则选择 1 到 N 之间的 K 个随机整数，然后选择这 N 个元素作为一个训练集)，通常创建与每个原始数据集大小相同的样本(即 K=N)。

还有一件事您可能应该记住 - 随机森林不仅仅是对原始数据的引导聚合 - 还有一个随机选择的特征子集用于每棵树。