python - 如何在选择前 5k 个特征后准备我的数据集。原始形状是 (24500,56000)。预期 =(24k,5k)

Question

我使用以下方法从 X_train 中选择前 5 k 个特征feature_importances_ 。按降序排列这 5 k 个特征的索引后，我需要相应地准备我的数据集X_train 形状为 (24000,56000)

# fit has to happen only on train 
X_train_essay_tfidf = vectorizer.fit_transform(X_train['clean_essays'].values) 
clf=DecisionTreeClassifier(max_depth=5)
clf = clf.fit(X_train_essay_tfidf,y_train)

importances=clf.feature_importances_

我希望我的最终数据集的形状为 (24000,5000)，由前 5K 个特征组成

Answer 1

您必须找到那些具有较高 feature_importance_ 值的前 5K 特征的索引。使用索引对原始 X_train 的特征进行子集化。

k = 5000
ind = clf.feature_importances_.argsort()[-k:][::-1]
X_train_shortlisted = X_train_essay_tfidf[:,ind]

现在您可以使用X_train_shortlisted作为最终分类器。