machine-learning - 迁移学习完全不同的领域和任务

Question

我一直在阅读一些关于迁移学习的论文和博客文章。我意识到有人说“不同”，有人说“不同但相似”。现在我很困惑。

说吧，

D 是域。 T 是任务。
a 是源，因此源域是 Da，源任务是 Ta。
a' 与 a 不同但相似。
b 与 a 不同。
Ms 是从 Da 和 Ta 学习到的源模型。
Mt 是目标模型。

在哪个目标领域-任务组合中，Ms 可以将其知识转移到 Mt？

1. (Da, Tb)
2. (Db, Ta)
3. (Da', Tb)
4. (Db, Ta')
5. (Da', Ta)
6. (Da, Ta')
7. (Da', Ta')
8. (Db, Tb)

老实说，我知道 5、6、7 是可能的，因为论文是这么说的。我怀疑 8 是否有效(不是吗？)。

但是域或任务为 b 的 1、2、3、4 又如何呢？

Answer 1

这取决于源域和目标域的差异程度。如果源域和目标域没有相似性，那么您无法通过在任务域上进行预训练来改进目标域中任务的模型。但是，如果存在相似之处，例如任何图像域到几乎任何其他图像域，并且源域数据集很大，将模型从源域转移到目标域可能有助于规范化模型并提高目标域中的泛化能力。特别是当目标域数据集很小时。

在深度学习中，您希望重新初始化(从随机权重中重新训练)更多层(从上到下)，并根据源域和目标域以及源任务和目标任务的不同程度进行更多微调。