parameters - xgboost : The meaning of the base_score parameter

Question

在 xgboost 的文档中，我读到:

base_score [default=0.5] : the initial prediction score of all instances, global bias

这句话的含义是什么？基础分数是数据集中感兴趣事件的先验概率吗？ IE。在包含 1,000 个观察值、300 个正面和 700 个负面的数据集中，基本分数是 0.3？

如果不是，那会是什么？

您的建议将不胜感激。

Answer 1

我认为您的理解是正确的，在您的示例中，基本分数可以设置为 0.3，或者您可以简单地将其保留为默认的 0.5。对于高度不平衡的数据，您可以将其初始化为更有意义的基础分数，以改进学习过程。理论上，只要选择合适的学习率并给它足够的训练步骤，起始基础分数应该不会影响结果。看作者在this issue的回答.

引用:https://github.com/dmlc/xgboost/issues/799