machine-learning - 用于回归的 ANN 模型中的特征选择/提取

Question

我正在尝试使用 15 个输入参数拟合 ANN 模型进行回归。其中一些参数彼此相关，并且关系不是线性的。比如说，输入参数之一可以表示为其他参数的非线性函数。但我并不确切地知道这些关系，因为我缺乏领域知识。有没有办法找到输入参数之间的这些关系？

我尝试用 pandas 相关矩阵找到这些关系，但无法得出任何结论，因为它讨论了两个参数之间唯一的线性相关性。

提前致谢。

Answer 1

查找输入特征之间的非线性关系的一种方法是遵循类似于计算方差膨胀因子 (VIF) 的方法，该方法用于找出输入特征之间的线性关系。我们需要的修改是，您可以使用神经网络代替 OLS，捕获特征之间的非线性关系，而不是运行普通最小二乘 (OLS) 回归来找出输入特征之间的线性关系.

因此，您的f将是常规设置中计算 VIF 的 OLS，在我们的例子中它将是神经网络，事实证明它可以有效地捕获非线性关系。

在这种情况下找出 VIF 而不是 我们可以用神经网络的准确性来代替它。

最后，对于您的 VIF 较高的变量，您可以得出结论，它们与其他特征高度相关。