machine-learning - 停止机器学习训练，但使用 Vowpal Wabbit 保持模型的当前状态

Question

我目前正在使用 vowpal wabbit 进行训练阶段。数据集很大(4GBytes)，已经运行了一整夜。还在训练中，不知道能坚持几天。

您知道是否有办法停止训练，但保持并保存模型的当前状态，因此必须在真实数据上进行测试？

Answer 1

如果您事先知道可以使用 --save_per_pass (因此每次通过后都会保存模型)，或者如果您只进行一次学习，则可以包含特殊示例tag save_filename 其中 filename 是保存模型的路径。

如果你进行多遍学习并且第一遍结束(因此创建了缓存文件)，你无法将 save 示例包含在训练数据中，所以恐怕您没有简单的方法来保存到目前为止训练的模型。

我想说 4 GiB 是一个小数据集:-)。当我在 10GiB(压缩)数据集(也不算大)上进行训练时，花了两个小时(包括创建缓存文件，这花费了大部分时间，进一步的传递/实验要快得多)，没有任何并行化。当然，这取决于数据集、在线学习与批量学习、使用的减少和参数，尤其是传递次数和硬盘驱动器速度，但在我看来，“整夜”对于如此小的数据集来说太长了。

正如@user3914041所说，检查stderr日志。