optimization - 如何识别WEKA中的相关功能？

Question

我想在WEKA中进行特征分析。我有8个功能部件和65个实例的数据集。

我想执行可用于机器学习方法（例如SVM）的功能选择和优化功能。
例如，在Weka中，我想知道如何显示哪些功能最有助于分类结果。

我认为WEKA提供了一个不错的图形用户界面，并允许对单个功能的影响进行非常详细的分析。但我不知道如何使用它。有什么帮助吗？

Answer 1

您有两种选择：


您可以使用过滤器执行属性选择。例如，您可以将AttributeSelection选项卡（或过滤器）与搜索方法Ranker和属性评估指标InfoGainAttributeEval一起使用。这样，您可以根据其信息增益得分获得最具预测性功能的排名列表。我已经做了很多次了，而且效果很好。有时，它甚至可以帮助提高SVM的准确性，众所周知，SVM不需要（太多）功能选择。您可以尝试使用其他搜索方法来查找耦合的预测变量的子组以及其他度量。
您可以仅查看SVM输出中的系数。例如，在线性SVM中，分类器是类似于a1.f1 + a2.f2 + ... + an.fn + fn+1 > 0的多项式，其中ai是实例的属性值，而fi是在SVM训练算法中获得的“权重”。结果，那些权重值接近0的属性表示的属性计数不太多，因此是不好的预测指标。极端权重（正或负）表示良好的预测指标。


此外，您可以检查特定分类器可用的可视化选项（例如，J48是决策树，根测试中使用的属性是最佳预测变量）。您也可以检查AttributeSelection选项卡的可视化选项。