使用贪婪特征选择的 Python 拟合线性回归

Question

我正在尝试使用贪婪特征选择算法来拟合线性回归模型。更具体一点，我有四组数据:

X_dev、y_dev、X_test、y_test，前两个是训练的特征和标签集和后两个为测试集。矩阵的大小为 (900, 126)、(900, )、(100, 126) 和 (100 ，)，分别。

“贪婪特征选择”的意思是，我首先使用 X_dev 集中的一个特征来拟合 126 个模型，选择最好的一个，然后使用第一个特征和每个特征来运行模型其余 125 个型号。继续选择，直到我获得了原始 126 个特征中表现最好的 100 个。

我面临的问题是关于Python 中的实现。我的代码首先用于拟合单个功能:

lin_reg.fit(X_dev[:, 0].reshape(-1, 1), y_dev)
lin_pred = lin_reg.predict(X_test)

由于尺寸不匹配((100, 126) 和 (1, ))，我收到尺寸不匹配错误。

我应该如何解决这个问题？我试图预测模型在使用单个特征时的表现。

谢谢。

Answer 1

对 X_test 应用相同的转换

lin_reg.fit(X_dev[:, 0].reshape(-1, 1), y_dev)
lin_pred = lin_reg.predict(X_test[:, 0].reshape(-1, 1))

我也不认为 reshape 是必要的。

lin_reg.fit(X_dev[:, 0], y_dev)
lin_pred = lin_reg.predict(X_test[:, 0])

应该也可以