machine-learning - 用新数据重新训练CNN

Question

我建立了一个CNN来对10个不同的类别进行分类。它在大多数课程中表现良好，大约为80-85％的准确率。每堂课。当前每个班级有10000+张图片

但是将来，我可能会为每个班级获取更多数据。

例如，我从某个班级获得了更多数据，该如何重新训练模型？


我是否应该使用旧数据和新数据重新培训整个事情？
我应该只用新数据重新训练模型吗？在这里，我担心由于该模型将为单个类获取新数据，因此该模型可能会忘记它已经学习的内容或可能影响其他类的准确性。


如果以前有人解决过此问题，请帮助......

Answer 1

Transfer Learning允许您向输出层添加要预测的新类别，而无需每次需要对新类别进行分类时都重新训练整个模型。而是可以冻结直到网络最后几层的所有初始层的权重，并且可以使最后一层或几层成为可训练的，以微调图像分类模型，而不是从头开始训练。

因此，当您获得更多有关新类的数据时，可以在输出层中添加一个新节点，并使用现有训练有素的模型的模型检查点权重，并仅在几个时期内对新数据进行微调（训练） 。如您所说，如果您从头开始重新训练模型，那么模型肯定会忘记已经学习的权重，并且如果我们只需要在添加新类的同时改进模型，那么该模型将不是有效的解决方案。

以下是转移学习的一些参考：


CS231n Transfer Learning
Transfer learning with a pretrained ConvNet
Transfer Learning with Keras and Deep Learning