Tensorflow/Keras - 如何公开类别之间的关系？

Question

我有标记有 5 个类别的数据。

每个类别代表物理世界中不同强度的同一事件。

这一事实的重要性在于，第 5 类基本上是与第 1 类相同事件(例如地震)的更强版本。

有人可以提供如何将这些知识提供给模型(TF/Keras)的想法吗？

Answer 1

One-Hot 编码对于多类分类问题很常见。在您的情况下，类别 3 事件标签将被编码为 [0, 0, 1, 0, 0]。您将创建一个具有带有 softmax 激活的密集输出层的模型，然后为了获得预测，您将采用输出层的 argmax 来获取类别。

如果您问如何体现所有类别都是同一类的变体这一事实，您可能需要研究嵌入层。基本上，嵌入层将分类(稀疏)向量转换为密集向量，并允许该转换成为模型的可学习参数。它允许模型在向量空间中将相似的类分组在一起。它通常用于语言建模中，将相似的单词分组在一起。例如，Woman、Lady、Queen 在嵌入向量中比 Man、Lord、King 的距离更近。在您的情况下，类 1,2,3 可能比类 4,5 更接近，并且嵌入层将允许您的模型学习这一点。