algorithm - 强调实用细节的 C4.5 和 ID3 算法

Question

我开始应用数据挖掘算法。现在我研究决策树。 Internet 上有很多关于 C4.5 和 ID3 算法的资料，但我想知道这两种算法的实际细节、优缺点和一些技术细节。如果有指向此类 Material 的链接，我将很高兴

Answer 1

决策树的两个优点是它们能够处理嘈杂的数据并提供对数据的直观解释(您可以轻松地看到树认为哪些属性最重要)。一个缺点是它们是贪心算法(它们选择分支属性而不考虑它如何影响最终分类精度)所以它们不一定产生最佳树结构。决策树很容易纳入集成方法，例如 random forests .

C4.5 是对 ID3 的改进，使其能够处理实值属性(ID3 使用分类属性)和缺失属性。互联网上有很多关于这两种算法的描述。维基百科对 ID3 都有描述和 C4.5 .对于这两种算法的另一种描述，您可以开始 here .