python - Keras 中的自定义损失函数

Question

我正在研究一种图像类增量分类器方法，使用 CNN 作为特征提取器和全连接 block 进行分类。

首先，我对 VGG 训练网络进行了微调以完成新任务。一旦网络针对新任务进行了训练，我就会为每个类别存储一些示例，以避免忘记新类别何时可用。

当某些类可用时，我必须计算示例的每个输出，包括新类的示例。现在，向旧类的输出添加零，并在新类输出上添加与每个新类相对应的标签，我有了新标签，即:如果 3 个新类(class)进入....

旧类类型输出:[0.1, 0.05, 0.79, ..., 0 0 0]

新类类型输出:[0.1, 0.09, 0.3, 0.4, ..., 1 0 0] **最后的输出对应于该类。

我的问题是，如何更改自定义损失函数来训练新类(class)？我想要实现的损失函数定义为:

其中蒸馏损失对应于旧类的输出以避免遗忘，分类损失对应于新类。

如果您能给我提供一个更改 keras 中损失函数的代码示例，那就太好了。

谢谢!!!!

Answer 1

您所要做的就是为此定义一个函数，使用 keras 后端函数进行计算。该函数必须采用真实值和模型预测值。

现在，由于我不确定函数中的 g、q、x 和 y 是什么，因此我将在这里创建一个基本示例，而不关心它的含义或它是否是实际有用的函数:

import keras.backend as K

def customLoss(yTrue,yPred):
    return K.sum(K.log(yTrue) - K.log(yPred))
    

所有后台功能可见here .

之后，使用该函数而不是常规函数来编译模型:

model.compile(loss=customLoss, optimizer = .....)