machine-learning - 用于文本分类的词性 (POS) 标签特征选择

Question

我有使用斯坦福词性标注器获得的词性标记句子。例如:

/DT岛/NN很/VBD很/RB漂亮/JJ./.我/PRP 爱/VBP 它/PRP ./.

(也可以使用xml格式)

谁能解释一下如何从这个 POS 标签句子中进行特征选择，并将其转换为特征向量，使用机器学习方法进行文本分类。

Answer 1

一个简单的开始方法如下所示(假设词序对于您的分类算法并不重要)。

首先，您将手动对许多句子进行分类。这是您的训练数据集。一般来说，您从每个类别中手动分类的句子越多，您获得的准确度就越高。对于这样的监督方法，请记住，唯一选择的特征将来自您手动分类的句子。您的特征是所有训练句子中单词/词性的独特组合。

最后，您必须选择一种特征选择算法。有很多，但最流行的是卡方。其他一些是信息增益、互信息等。使用卡方，您可以单独测量类变量对每个特征的依赖性。您可以选择一些阈值，例如卡方值最低的前 10% 的特征，并且只保留这些特征以便稍后在分类器中使用。

特征选择算法的选择很重要，并且需要反射(reflect)您正在使用的算法。例如，当您想要查找与您的类(class)正相关和负相关的特征时，卡方就很好用。在其他情况下，您可能只需要正相关的特征，因此您需要选择另一种算法或修改现有算法。

希望有帮助，威廉·莱利·兰德