python - 自定义 keras 指标返回 nan

Question

我想在分类问题中进一步将输出类划分为更少的桶。我有 4 个输出类(即 0、1、2、3)。但在训练期间，我还想跟踪 2 个类别的准确性:

• 将 0 和 1 视为 0 类
• 将 2 和 3 视为 1 类

为此，我创建了一个新指标并使用模型对其进行编译:

def new_classes_acc(y_true, y_pred):
  actual = tf.floor( y_true / 2 )
  predicted = tf.floor( y_pred / 2 )
  return K.categorical_crossentropy(actual, predicted)

像这样编译:

model.compile(loss='categorical_crossentropy', optimizer=optimizer, metrics=['accuracy', new_classes_acc])

我得到 nan 作为准确度值。这样做的正确方法是什么？

Answer 1

由于有 4 个类，并且您已将 categorical_crossentropy 设置为损失，因此标签是 one-hot 编码的，并且形状为 (n_samples, 4)。因此，首先您需要使用 argmax 函数找到真实类和预测类，然后使用floor 函数(此外，您想要创建一个指标而不是损失函数；因此您不应使用K.categorical_crossentropy):

from keras import backend as K
import tensorflow as tf

def custom_metric(y_true, y_pred):
    tr = tf.floor(K.argmax(y_true, axis=-1) / 2)
    pr = tf.floor(K.argmax(y_pred, axis=-1) / 2)
    return K.cast(K.equal(tr, pr), K.floatx())

现在，让我们测试一下。首先我们创建一个简单的模型并编译它:

model = Sequential()
model.add(Dense(4, activation='softmax', input_shape=(2,)))

model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy', custom_metric])

然后我们创建虚拟数据:

import numpy as np
data = np.array([1, 2]).reshape(1, 2)

并使用我们的模型来预测给定数据的标签:

print(model.predict(data))
# prints: [0.04662106, 0.8046941 , 0.07660434, 0.0720804 ] 

因此第二类的概率最高，并且将是预测的标签。现在，考虑我们定义的自定义指标，给定 [1, 0, 0, 0] 或 [0, 1, 0, 0] 作为真实标签，自定义指标应该给我们 1(即 100%)。让我们确认一下:

true_labels = np.array([1, 0, 0, 0]).reshape(1,4)
print(model.evaluate(data, true_labels))    # gives: [3.0657029151916504, 0.0, 1.0]  

返回列表的第一个元素对应于损失，第二个元素对应于准确度，第三个元素对应于我们的自定义指标。正如您所看到的，准确度为零(因为真实类别是第一类，但预测类别是第二类)，并且自定义指标按预期为 1。

另一种情况:

true_labels = np.array([0, 1, 0, 0]).reshape(1,4)
print(model.evaluate(data, true_labels))    # gives: [0.21729297935962677, 1.0, 1.0]

这里的准确度是一(因为真实类和预测类都是第二类)，自定义指标也是一。您可以进一步确认剩下的两种情况 [0, 0, 1, 0] 和 [0, 0, 0, 1] 是真实标签；两者都应该为自定义指标的值返回零。

<小时/>

奖励:如果标签稀疏(即 0、1、2 和 3)怎么办？然后，您可以使用 keras.np_utils.to_categorical() 方法对它们进行 one-hot 编码，然后使用上面定义的自定义指标。