machine-learning - 机器学习中的加权系统程序如何工作？

Question

在Weka中，我们可以选择为某些实例分配权重，特别是当数据集在类别方面不平衡时。但我不明白的是这个加权系统是如何工作的？

例如:当我们使用朴素贝叶斯或决策树作为分类算法对某些实例的权重为 5 的数据集进行分类时，是否意味着算法会考虑这些实例 5 次？

Answer 1

样本权重是特定于分类器的。没有一个通用的答案。许多分类器(以及回归器)都有自己的使用样本权重的内部方法。对于其中许多人来说，这相当于从样本复制的角度考虑它，但是请记住，权重可以是任意的正实数，因此您可以按pi进行加权即使您无法复制示例 pi 次。在朴素贝叶斯的情况下 - 样本权重在概率估计器内部使用以按比例加权每个样本，因此它相当于复制(如果您输入整数权重)。对于决策树来说，情况要复杂得多，对于任意方法 - 答案是特定于模型/实现的。