python - 5 个不同模型的训练准确率 (~64%) 和测试准确率 (~14%) 较低

Question

我正在努力寻找适合我的数据集的学习算法。

我正在处理一个典型的回归问题。数据集中有 6 个我关心的特征。我的数据集中大约有 800 个数据点。这些特征和预测值具有很高的非线性相关性，因此这些特征并非无用(据我所知)。预测值具有双峰分布，因此我很快就忽略了线性模型。

所以我尝试了 5 种不同的模型:随机森林、额外树、AdaBoost、梯度提升和 xgb 回归器。训练数据集返回准确率，测试数据返回11%-14%。这两个数字都吓到我了哈哈我尝试调整随机森林的参数，但似乎没有什么特别能产生显着差异。

参数调整函数

def hyperparatuning(model, train_features, train_labels, param_grid = {}):
    grid_search = GridSearchCV(estimator = model, param_grid = param_grid, cv = 3, n_jobs = -1, verbose =2)
    grid_search.fit(train_features, train_labels)
    print(grid_search.best_params_)
    return grid_search.best_estimator_`

评估模型的函数

def evaluate(model, test_features, test_labels):
    predictions = model.predict(test_features)
    errors = abs(predictions - test_labels)
    mape = 100*np.mean(errors/test_labels)
    accuracy = 100 - mape
    print('Model Perfomance')
    print('Average Error: {:0.4f} degress. '.format(np.mean(errors)))
    print('Accuracy = {:0.2f}%. '.format(accuracy))

我预计输出至少是可以接受的，但我得到的训练数据为 64%，测试数据为 12-14%。看到这个数字真的很恐怖!

Answer 1

您的问题有几个问题。

对于初学者来说，您试图在看似回归的问题中使用准确性，这是毫无意义的。

虽然您没有提供确切的模型(这可以说是一个好主意)，但评估函数中的这一行

errors = abs(predictions - test_labels)

实际上是 mean absolute error 的基础(MAE - 虽然你实际上应该理解它的意思，顾名思义)。 MAE 与 MAPE 一样，确实是回归问题的性能指标；但你接下来使用的公式

accuracy = 100 - mape

实际上并不成立，也没有在实践中使用。

确实，凭直觉，人们可能想要获得 1-MAPE 数量；但这并不是一个好主意，因为MAPE本身有很多缺点，严重限制了它的使用；这是 Wikipedia 的部分列表:

• It cannot be used if there are zero values (which sometimes happens for example in demand data) because there would be a division by zero.
• For forecasts which are too low the percentage error cannot exceed 100%, but for forecasts which are too high there is no upper limit to the percentage error.