matlab - 如何选择 PCA 之后最相关的前 100 个特征(子集)？

Question

我对一个63*2308的矩阵进行了PCA，得到了一个分数和一个系数矩阵。得分矩阵的维度为63*2308，系数矩阵的维度为2308*2308。

如何提取最重要的前 100 个特征的列名称，以便我可以对它们执行回归？

Answer 1

PCA 应该为您提供一组特征向量(系数矩阵)和特征值向量 (1*2308)，通常称为 lambda)。您可能会在 matlab 中使用不同的 PCA 函数来获取它们。

特征值表示每个特征向量解释了多少数据。选择特征的一个简单方法是选择具有最高特征值的 100 个特征。这为您提供了一组可以解释数据中大部分差异的特征。

如果您需要证明您的方法的合理性，您实际上可以计算每个特征向量解释的方差量和截断，例如解释的 95% 方差。

请记住，仅基于特征值进行选择可能并不对应于对回归最重要的一组特征，因此，如果您没有获得预期的性能，您可能需要尝试不同的特征选择方法，例如递归特征选择。我建议使用谷歌学术来找到几篇做类似事情的论文，看看他们使用了什么方法。

<小时/>

使用 PCA 获取前 100 个主要成分的快速 matlab 示例。

[eigenvectors, projected_data, eigenvalues] = princomp(X);
[foo, feature_idx] = sort(eigenvalues, 'descend');
selected_projected_data = projected(:, feature_idx(1:100));