tensorflow - 在遵循 tensorflow 的迁移学习示例时，添加 dropout 是否有助于减少过度拟合？

Question

我正在使用预训练的 tensorflow inception v3 模型和迁移学习对我拥有的新图像训练集进行一些图像分类。我正在按照此处列出的说明进行操作:

https://www.tensorflow.org/versions/r0.8/how_tos/image_retraining/index.html

然而，我得到了一些严重的过度拟合(训练准确度在 90 年代高，但 CV/测试准确度在 50 年代)。

除了进行一些图像增强以尝试增加我的训练样本大小之外，我还想知道在重新训练阶段进行一些 dropout 是否会有所帮助。

我正在使用这个文件(随 tensorflow 一起提供)作为我再培训/迁移学习的基础/模板:

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/image_retraining/retrain.py

看看 inception v3 模型，dropout 就在那里。但是，我没有看到 retrain.py 文件中添加了任何 dropout。

我可以尝试在重新训练中添加 dropout 以解决我的过度拟合问题是否有意义？如果是这样，我会在哪里添加？如果不是，为什么？

谢谢

Answer 1

从上面 Max 的评论来看，这是一个很好的答案:

Max 得到了一些很好的改进，将 dropout 添加到 retrain.py 源。如果你想尝试，可以引用他的forked script .它有一些额外的更新，但你应该看的主要部分从第 784 行开始