tensorflow - 过度拟合的指示

Question

我正在基于 Poets 教程的 Tensorflow 使用 Inception 和迁移学习来训练图像识别模型。

我让它运行了 500k 步，希望在过度训练策略之前找到最佳步数。下面的张量板图像显示我的训练准确度稳步上升，但验证准确度已稳定在 70K 步左右。我的理解是，当开始过度训练时，验证准确性就会开始下降。

下图中我的最佳步数是多少？ 70k 步还是 260k 步？

Answer 1

很明显，您的模型过度拟合。解决过拟合问题有以下几种解决方案:
1)提前停止。
2)正则化。
3) 通过减少层数或每层单元数来减少模型 VC 维度。
4) 扩充您的数据集。
5)应用迁移学习。

对于您的情况，您可以尝试提前停止。根据您的图表，最佳迭代次数是 60K。