machine-learning - 为了使训练集产生不偏斜的分类器，正例和负例的比例应该是多少？

Question

我的训练数据集包含一个类别的 46071 个示例和另一个类别的 33606 个示例。这会导致分类器倾斜吗？我正在使用 SVM，但不想使用 SVM 的选项来处理倾斜数据。

Answer 1

如果分类类别的代表性不大致相同，那么数据集就会出现偏差(我认为没有精确的值)。

您的数据集并不是高度不平衡的。无论如何，它可能会引入对大多数(可能无趣)类别的偏见，尤其是使用准确性来评估分类器。

可以通过多种方式管理倾斜的训练集。两种常用的方法是:

• 在数据层面a form of re-sampling比如

  • random oversampling更换，
  • 随机欠采样，
  • 定向过采样(不创建新示例，替换样本的选择是知情的而不是随机的)，
  • 定向欠采样，
  • 通过知情生成新样本进行过采样，
  • 上述技术的组合。

• 在算法层面，调整各个类别的成本，以应对类别不平衡的情况。

  即使您不喜欢这种方法，使用 SVM，您也可以更改类别权重方案(例如 How should I teach machine learning algorithm using data with big disproportion of classes? (SVM) )。您可能更喜欢这种方式而不是子采样，因为这意味着结果不会因使用的特定子样本而发生变化。

值得注意的是(来自 Issue on Learning from Imbalanced Data Sets ):

in certain domains (e.g. fraud detection) the class imbalance is intrinsic to the problem: there are typically very few cases of fraud as compared to the large number of honest use of the facilities.

However, class imbalances sometimes occur in domains that do not have an intrinsic imbalance.

This will happen when the data collection process is limited (e.g. due to economic or privacy reasons), thus creating articial imbalances.

Conversely, in certain cases, the data abounds and it is for the scientist to decide which examples to select and in what quantity.

In addition, there can also be an imbalance in costs of making different errors, which could vary per case.

所以这一切都取决于您的数据，真的!

更多详细信息:

• Extreme rebalancing for SVMs: A case study - Bhavani Raskutt, Adam Kowalczyk
• Learning from umbalanced data - Haibo He, Edwardo Garcia - IEEE Transactions on Knowledge and Data Engineering