python - sklearn.feature_selection 的 F_Regression

Question

我在sklearn特征选择模块中找到了用于特征选择的F_regression技术。我无法理解它使用的原理。给出的描述是 -

单变量线性回归检验。
快速线性模型，用于依次测试多个回归量的单个回归量的效果。这分 3 个步骤完成:

1.感兴趣的回归量和数据是关于常数回归量的正交化。

2. 计算数据和回归量之间的互相关性。

3.它会转换为 F 分数，然后转换为 p 值。

我无法理解这一点，请有人用通俗的语言解释一下。

Answer 1

文档中的语言有点迟钝。我相信“数据”指的是响应。首先，所选回归量和响应相对于其余回归量正交。这减少了可能存在的多重共线性。然后，计算所选回归量和响应之间的相关性。在单变量设置中，相关系数是 R^2 的平方根，可以用用于测试模型整体显着性的 F 统计量来编写(另请参阅: https://stats.stackexchange.com/questions/56881/whats-the-relationship-between-r2-and-f-test )。接下来，将相关性转换为 F 统计量，计算相应的 p 值，并返回 F 和 p。如果有多个回归器，则一次对所有回归器执行一个操作。