machine-learning - 验证损失远高于训练损失

Question

我对深度学习模型非常陌生，并尝试使用 LSTM 和 Keras Sequential 来训练多个时间序列模型。 50 年中每年有 25 个观测值 = 1250 个样本，因此不确定是否可以将 LSTM 用于如此小的数据。然而，我有数千个特征变量，不包括时间滞后。我正在尝试预测接下来 25 个时间步长的数据序列。数据在 0 和 1 之间标准化。我的问题是，尽管尝试了许多明显的调整，但我无法获得接近训练损失的 LSTM 验证损失(我认为严重过度拟合)。

我尝试调整每个隐藏层的节点数 (25-375)、隐藏层数 (1-3)、dropout (0.2-0.8)、batch_size (25-375) 和训练/测试分割 (90) %:10% - 50%-50%)。没有什么真正会对验证损失/训练损失差异产生太大影响。

# SPLIT INTO TRAIN AND TEST SETS
# 25 observations per year; Allocate 5 years (2014-2018) for Testing
n_test = 5 * 25
test = values[:n_test, :]
train = values[n_test:, :]

# split into input and outputs
train_X, train_y = train[:, :-25], train[:, -25:]
test_X, test_y = test[:, :-25], test[:, -25:]

# reshape input to be 3D [samples, timesteps, features]
train_X = train_X.reshape((train_X.shape[0], 5, newdf.shape[1]))
test_X = test_X.reshape((test_X.shape[0], 5, newdf.shape[1]))
print(train_X.shape, train_y.shape, test_X.shape, test_y.shape)


# design network
model = Sequential()
model.add(Masking(mask_value=-99, input_shape=(train_X.shape[1], train_X.shape[2])))
model.add(LSTM(375, return_sequences=True))
model.add(Dropout(0.8))
model.add(LSTM(125, return_sequences=True))
model.add(Dropout(0.8))
model.add(LSTM(25))
model.add(Dense(25))
model.compile(loss='mse', optimizer='adam')
# fit network
history = model.fit(train_X, train_y, epochs=20, batch_size=25, validation_data=(test_X, test_y), verbose=2, shuffle=False)

纪元 19/20

• 14s - 损失:0.0512 - val_loss:188.9568

纪元 20/20

• 14s - 损失:0.0510 - val_loss:188.9537

我认为我一定做了一些明显错误的事情，但由于我是新手而无法意识到这一点。我希望要么获得一些有用的验证损失(与训练相比)，要么知道我的数据观察对于有用的 LSTM 建模来说根本不够大。非常感谢任何帮助或建议，谢谢!

Answer 1

过度拟合

一般来说，如果您看到验证损失比训练损失高得多，则表明您的模型过度拟合 - 它学习“迷信”，即在您的训练数据中意外碰巧为真的模式，但事实并非如此有现实基础，因此验证数据不真实。

这通常表明您的模型“太强大”，参数太多，无法记住有限的训练数据。在您的特定模型中，您试图从一千个数据点中学习近一百万个参数(尝试打印 model.summary() ) - 这是不合理的，学习可以从数据中提取/压缩信息，而不是凭空创建信息。

预期结果是什么？

在构建模型之前，您应该问(并回答!)的第一个问题是关于预期的准确性。您应该有一个合理的下限(什么是简单的基线？对于时间序列预测，例如线性回归可能是一个)和上限(给定相同的输入数据而没有其他数据，专家可以预测什么？)。

很大程度上取决于问题的性质。您确实必须问，这些信息是否足以得到一个好的答案？对于时间序列预测的许多现实生活问题，答案是否定的 - 这种系统的 future 状态取决于许多变量，而这些变量无法通过简单地查看历史测量来确定 - 要合理地预测下一个值，您需要除了历史价格之外，还引入了大量外部数据。 Tukey 有一句经典名言:“一些数据和对答案的强烈渴望的结合并不能确保可以从给定的数据中提取合理的答案。”