r - 基于模型的优化(在 mlrMBO 中)需要多少次迭代？

Question

我想在 R (mlrMBO) 中的 mlr-Package 中使用基于模型的优化来调整我的超参数。
这里推荐多少次迭代？
我读过 MBO 中必要的迭代次数取决于超参数的数量，应该乘以某个因子？

Answer 1

不幸的是，对此没有统一的答案。除了超参数的数量之外，任务的难度和一般优化环境也会影响可能需要的迭代次数。此外，这取决于您要寻找的性能级别——如果您绝对需要最佳性能，则可能需要大量迭代(数千次或更多)。

一个好的经验法则是根据您可用的资源确定迭代次数。您需要在几分钟内得到答案还是可以让它运行一夜？我会从只进行几次迭代的小型测试运行开始，以了解在您的特定情况下需要多长时间，然后根据此设置实际运行的迭代次数以及您想花多长时间。

使用不同的随机种子和相同的迭代次数以及相同的随机种子和不同的迭代次数进行多次运行也是一个好主意。这将告诉您通过运行更长时间可以获得多少性能，例如如果 100 次和 1000 次迭代没有区别，那么给它更多可能不值得。