python - 原始 xgboost(学习 API)和 sklearn XGBClassifier(Scikit-Learn API)之间的区别

Question

我使用下面的 xgboots sklearn 界面来创建和训练 xgb model-1。

clf = xgb.XGBClassifier(n_estimators = 100, objective= 'binary:logistic',)
clf.fit(x_train, y_train,  early_stopping_rounds=10, eval_metric="auc", 
    eval_set=[(x_valid, y_valid)])

而xgboost模型可以通过原始xgboost创建如下model-2:

param = {}
param['objective'] = 'binary:logistic'
param['eval_metric'] = "auc"
num_rounds = 100
xgtrain = xgb.DMatrix(x_train, label=y_train)
xgval = xgb.DMatrix(x_valid, label=y_valid)
watchlist = [(xgtrain, 'train'),(xgval, 'val')]
model = xgb.train(plst, xgtrain, num_rounds, watchlist, early_stopping_rounds=10)

我认为 model-1 和 model-2 的所有参数都是相同的。但是验证分数不同。 model-1 和 model-2 之间有什么区别吗？

Answer 1

据我了解，xgb 和它的 sklearn 接口(interface)中的默认参数之间存在许多差异。例如:默认 xgb 有 eta=0.3 而另一个有 eta=0.1。您可以在此处查看有关每个工具的默认参数的更多信息:

https://github.com/dmlc/xgboost/blob/master/doc/parameter.md http://xgboost.readthedocs.io/en/latest/python/python_api.html#module-xgboost.sklearn