Python:CountVectorizer 忽略一个字母单词 "I"

Question

我有一个名为 dictionary1 的列表。我使用以下代码获取文本的稀疏计数矩阵:

cv1 = sklearn.feature_extraction.text.CountVectorizer(stop_words=None)  
cv1.fit_transform(dictionary1)

不过我注意到

list(set(dictionary1)-set(cv1.get_feature_names()))

结果在 ['i'] 中。所以“i”在我的字典中，但 CountVectorizer 忽略了它(可能是某些默认设置丢弃了一个字符的单词)。在documentation我找不到这样的选项。有人可以指出我的问题吗？事实上，我想在我的分析中保留“i”，因为它可以指代更个人化的语言。

Answer 1

一个可行的解决方法是直接将字典作为词汇传递(实际上我不知道为什么我一开始不这样做)。即

cv1 = sklearn.feature_extraction.text.CountVectorizer(stop_words=[], vocabulary=dictionary1)
cv1._validate_vocabulary()

list(set(dictionary1)-set(cv1.get_feature_names())) 然后返回 []。

在我原来的帖子中，我应该提到 dictionary1 已经是唯一标记的列表。