r - 时代如何影响深度学习模型？

Question

我使用 h2o 构建了一个简单的深度学习回归模型(如下)。该模型预测 R iris 数据集中的萼片长度。我注意到，随着纪元的增加，模型精度 (r^2) 也会增加(图 1)。

通过增加纪元数，我是否会以有害的方式过度拟合模型，或者以有益的方式提高模型的准确性？

library(datasets)
library(h2o)

df <- iris

df.hex <- as.h2o(df)

model <- h2o.deeplearning(x = 2:5, y = 1, df.hex,
                          hidden = c(200, 200, 200, 200, 200),
                          epochs = 5,
                          variable_importances=T)

perf_dl <- h2o.performance(model)
rsq_dl <- h2o.r2(perf_dl)

---

---

图1

# Note this code plots the data from the deep learning runs in the previous code
library(ggplot2)

df <- data.frame(epochs = c(5, 10, 100, 300, 500, 1000, 2000, 3000, 5000), rsq = c(0.77, 0.70, 0.57, 0.75, 0.87, 0.92, 0.97, 0.96, 0.98))

p <- ggplot(df, aes(epochs, rsq))
p + geom_point(aes(size = 7)) + stat_smooth(method = "lm", formula = y ~ x + I(x^2), size = 1)

Answer 1

这种情况下通常显示的典型图像是

请注意，最佳点(图中的 50 个 epoch)取决于网络、问题和数据。确定何时停止是一个尚未解决的问题，但提前停止是一个流行的选择。

来源:我尚未发表但已完成的硕士学位论文。由于我所在大学的官僚原因，目前尚未公开。