machine-learning - 改变AlexNet/GoogleNet/ImageNet的输出层？

Question

我有一个关于更改网络输出层(AlexNet/GoogleNet/ImageNet)的问题。因此标准输出是一个 1x1000 Vector，因此每个类都有一个值。

我知道我可以将输出更改为例如 5，这样如果我只有 5 个类，我会得到 1x5 矢量。

但是如果我没有课怎么办？是否可以将输出更改为 18x18 这样的矩阵。因为我的网络应该输出密度图而不是“类”。是否建议使用预先训练的网络来完成我的任务，还是应该从头开始训练？

感谢您的帮助:-)

Answer 1

But what is if i do not have classes?

“类”的概念并没有真正与架构相关，而是与损失函数本身相关。换句话说，如果您有 1000 个输出，那么无论您是要在 1000 个不相交的类中进行分类、分配 1000 个标签还是对 1000 维实际输出进行回归，架构仍然很有意义。

Is it possible to change the output to a matrix like 18x18

“天真的”方法是输出 18*18 = 324 个值并将其视为 2 维矩阵。然而，2维结构表明有一些特征可以在架构方面利用，一个典型的特征是平移不变性，它在卷积网络中被利用，如果你的输出也是如此，你可能会考虑反卷积(任何排序，因为有很多)适合您的模型。

And is it recommended to use a pretrained net for my task? Or shoud i learn from scratch ?

这不取决于架构，而是取决于任务。如果您的任务与给定网络训练的任务足够相似，您可以使用预训练的网络作为起点，然后对新的网络进行“微调”。一般来说，使用预训练网络作为起点是一个安全的做法(它不应该比从头开始训练更糟糕)。请记住训练整个网络，而不仅仅是添加的部分(除非您没有足够的数据来训练整个结构)。