machine-learning - 属性约简与维度约简

Question

属性约简和降维有什么区别？

哪些方法被认为是相对于维度缩减的属性缩减技术？

Answer 1

我不知道机器学习中的“属性缩减”一词。您能提供一个指向此内容的链接吗？

另一方面，一些论文use the term 'attribute selection'引用功能选择。

特征选择是一种特殊类型的降维，其中产生的特征集必须是原始特征的子集。重要的是，这意味着除了包含或排除之外，这些功能没有以任何方式进行转换或更改。

一般降维通常通过首先将输入特征转换为新的表示来实现，例如通过使用与 PCA 维度相对应的坐标转换，或者首先通过以下方式将数据投影到新的空间(可能具有更高的维度)核函数，然后使用某种信息量来修剪新空间中的特征。

降维还可能涉及更简单的变换，例如由于观察到的共线性而将输入特征向量的多个分量平均在一起。尽管转换很简单(取平均值)，但它仍然与特征选择不同，因为新特征不是原始特征的子集。

总而言之，主要区别在于，除了删除原始输入中一些信息量较少的特征之外，特征选择不会改变任何东西。它保留其余功能不变。降维会对数据进行变换，最终的表示可能与原始输入特征有很大不同(即使除了维度)。