python - Keras:使用没有单热编码目标数组的 categorical_crossentropy

Question

我有一个 Keras 模型，用于解决多类分类问题。我这样做:

model.compile(
    loss='categorical_crossentropy',
    optimizer='adam',
    metrics=['accuracy'],
)

我目前有大约 100 个特征和大约 2000 个可能的类别。对类进行单热编码会导致内存问题。

是否可以将 categorical_crossentropy 与此 Keras 模型一起使用，同时不对类标签进行单热编码。例如。而不是让目标看起来像:

[0, 0, 0, 1, 0, 0, ...]

它只是:

3

我查看了 Keras 中 categorical_crossentropy 的源代码，它假设两个张量具有相同的形状。有没有办法解决这个问题并使用我描述的方法？

谢谢!

Answer 1

如果您的目标是单热编码的，请使用 categorical_crossentropy。one-hot 编码示例:

[1,0,0]
[0,1,0]
[0,0,1]

但是，如果您的目标是整数，请使用 sparse_categorical_crossentropy。整数编码示例:

1
2
3