python - GridSearchCV 如何计算训练分数？

Question

我很难找出 GridSearchCV 中的参数 return_train_score。来自docs :

return_train_score : boolean, optional

       If False, the cv_results_ attribute will not include training scores.

我的问题是:训练分数是多少？

在下面的代码中，我将数据分成十个分层折叠。因此 grid.cv_results_ 包含十个测试分数，即 'split0_test_score', 'split1_test_score' , ..., 'split9_test_score '。我知道这些中的每一个都是 5 个最近邻分类器获得的成功率，该分类器使用相应的折叠进行测试，其余 9 个折叠用于训练。

grid.cv_results_ 还包含十个火车分数:'split0_train_score', 'split1_train_score' , ..., 'split9_train_score '。这些值是如何计算的？

from sklearn import datasets
from sklearn.model_selection import GridSearchCV
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import StratifiedKFold    

X, y = datasets.load_iris(True)

skf = StratifiedKFold(n_splits=10, random_state=0)
knn = KNeighborsClassifier()

grid = GridSearchCV(estimator=knn, 
                    cv=skf, 
                    param_grid={'n_neighbors': [5]}, 
                    return_train_score=True)
grid.fit(X, y)

print('Mean test score: {}'.format(grid.cv_results_['mean_test_score']))
print('Mean train score: {}'.format(grid.cv_results_['mean_train_score']))
#Mean test score: [ 0.96666667]
#Mean train score: [ 0.96888889]

Answer 1

它是预测模型在所有折叠上的训练分数，不包括您正在测试的折叠。在您的例子中，它是您训练模型的 9 折的分数。