scikit-learn - 为什么 sklearn.feature_selection.RFECV 每次运行给出不同的结果

Question

我尝试使用 RFECV 进行特征选择，但每次都会给出不同的结果，交叉验证是否将样本 X 划分为随机 block 或顺序确定性 block ？

此外，为什么 grid_scores_ 和 score(X,y) 的分数不同？为什么分数有时是负数？

Answer 1

交叉验证是将样本 X 划分为随机 block 还是顺序确定性 block ？

CV 默认将数据划分为确定性 block 。您可以通过将 shuffle 参数设置为 True 来更改此行为。

但是，RFECV如果 y 是二元或多类，则使用 sklearn.model_selection.StratifiedKFold 。

这意味着它将分割数据，使每个折叠具有相同(或几乎相同的类比例)。为了做到这一点，每个折叠中的确切数据在 CV 的不同迭代中可能会略有变化。但是，这不应导致数据发生重大变化。

如果您使用 cv 参数传递 CV 迭代器，则可以通过指定随机状态来修复分割。随机状态与算法做出的随机决策相关。每次使用相同的随机状态将确保相同的行为。

另外，为什么 grid_scores_ 和 Score(X,y) 的分数不同？

grid_scores_ 是交叉验证分数的数组。 grid_scores_[i] 是第 i 次迭代的交叉验证分数。这意味着第一个分数是所有特征的分数，第二个分数是删除一组特征时的分数，依此类推。每个中删除的特征数量等于步骤参数的值。默认情况下 = 1。

score(X, y) 选择最佳特征数量并返回这些特征的分数。

为什么分数有时为负数？

这取决于您使用的估算器和评分器。如果您没有设置评分器，RFECV 将使用估计器的默认评分函数。一般来说，这是准确性，但在您的特定情况下，可能会返回负值。