artificial-intelligence - 决策树剪枝的效果

Question

我想知道我是否从训练和验证集中建立了一个像 ID3 一样的决策树 A，但 A 没有被修剪。与此同时，我在ID3中还有另一个决策树B，它是从相同的训练和验证集生成的，但B被修剪了。现在我在未来未标记的测试集上测试 A 和 B，是否总是剪枝树会表现更好？欢迎任何想法，谢谢。

Answer 1

我认为我们需要更清楚地区分:修剪后的树在验证集上总是表现更好，但在测试集上不一定如此(事实上它是在训练集上也有相同或更差的表现)。我假设修剪是在树构建后完成的(即:后修剪)..

请记住，使用验证集的全部原因是为了避免对训练数据集的过度拟合，这里的关键点是泛化:我们想要一个模型(决策树)，它概括了“训练时”提供的实例之外的新的未见过的示例。