python - 使二进制堆叠示例适应多类

Question

我一直在学习this example of stacking .在这种情况下，每组 K-folds 产生一列数据，并且对每个分类器重复这一过程。即:混合矩阵是:

dataset_blend_train = np.zeros((X.shape[0], len(clfs)))
dataset_blend_test = np.zeros((X_submission.shape[0], len(clfs)))

我需要从多类问题中叠加预测(每个样本可能有 15 个不同的类)。这将为每个 clf 生成一个 n*15 矩阵。

这些矩阵是否应该水平连接？还是应该在应用逻辑回归之前以其他方式组合它们？谢谢。

Answer 1

您可以通过两种方式调整代码以适应多类问题:

1. 横向连接概率，即您需要创建:dataset_blend_train = np.zeros((X.shape[0], len(clfs)*numOfClasses))dataset_blend_test = np.zeros((X_submission.shape[0], len(clfs)*numOfClasses))
2. 不使用概率，而是使用基本模型的类别预测。这样您就可以保持数组的大小相同，但您只需使用 predict 而不是 predict_proba。

我都成功地使用了两者，但哪个效果更好可能取决于数据集。