xgboost - XGBoost 中多类分类的损失函数是什么？

Question

我想知道哪个损失函数使用 XGBoost 进行多类分类。我找到了 in this question二元情况下逻辑分类的损失函数。

我认为对于多类情况，它可能与 GBM 中的相同(对于 K 类)which can be seen here ，其中 y_k=1 如果 x 的标签在任何其他情况下是 k 和 0，并且 p_k(x) 是 softmax 函数。但是，我使用此损失函数制作了一阶和二阶梯度，并且粗麻布与代码中定义的不匹配 here (在 SoftmaxMultiClassObj 中的函数 GetGradient 中)由常数 2。

你能告诉我使用的是哪个损失函数吗？

先感谢您。

Answer 1

如您所料，用于多类的损失函数是 softmax 目标函数。到目前为止，多类的唯一选项显示在下面的引用中，multi:softprob返回所有概率，而不仅仅是最有可能的类别。

“multi:softmax” –set XGBoost to do multiclass classification using the softmax objective, you also need to set num_class(number of classes)

“multi:softprob” –same as softmax, but output a vector of ndata * nclass, which can be further reshaped to ndata, nclass matrix. The result contains predicted probability of each data point belonging to each class.

见 https://xgboost.readthedocs.io/en/latest//parameter.html#learning-task-parameters .