python - 将 NLTK 停用词与 scikit-learn 的 TfidfVectorizer 一起使用时出现 Unicode 警告

Question

我正在尝试使用来自 scikit-learn 的 Tf-idf Vectorizer，使用来自 NLTK 的西类牙语停用词:

from nltk.corpus import stopwords

vectorizer = TfidfVectorizer(stop_words=stopwords.words("spanish"))

问题是我收到以下警告:

/home/---/.virtualenvs/thesis/local/lib/python2.7/site-packages/sklearn/feature_extraction/text.py:122: UnicodeWarning: Unicode equal comparison failed to convert both arguments to Unicode - interpreting them as being unequal
tokens = [w for w in tokens if w not in stop_words]

有解决这个问题的简单方法吗？

Answer 1

其实这个问题比我想象的要容易解决。这里的问题是 NLTK 不返回 unicode 对象，而是返回 str 对象。所以我需要在使用它们之前从 utf-8 解码它们:

stopwords = [word.decode('utf-8') for word in stopwords.words('spanish')]