python - Keras:无法在我的模型中使用自定义损失函数

Question

我正在使用 Keras 构建语言模型，并且我想使用 perplexity 作为我的损失函数，但是当我尝试使用我的损失函数编译我的模型时，我收到一个值错误，说损失函数是未知的。

我的损失函数如下所示:

def perplexity_loss(y_true, y_pred):
    """
    The perplexity metric. Why isn't this part of Keras yet?!
    https://stackoverflow.com/questions/41881308/how-to-calculate-perplexity-of-rnn-in-tensorflow
    https://github.com/keras-team/keras/issues/8267
    """
    cross_entropy = keras.losses.SparseCategoricalCrossentropy(y_true, y_pred)
    perplexity = tf.keras.backend.exp(cross_entropy)
    return perplexity

这就是我启动模型的方式:

# define model
model = Sequential()
model.add(Embedding(vocab_size, 500, input_length=max_length-1))
model.add(LSTM(750))
model.add(Dense(vocab_size, activation='softmax'))
# compile network
model.compile(loss='perplexity_loss', optimizer='adam', metrics=['accuracy'])
# fit network
model.fit(X, y, epochs=150, verbose=2)

我收到以下错误:

ValueError: Unknown loss function:perplexity

Answer 1

导致错误的原因是您传递的是字符串( 'perplexity_loss' )而不是函数。以下应该可以解决问题:

model.compile(loss=perplexity_loss, optimizer='adam', metrics=['accuracy'])

请注意，当您想再次加载模型时，您必须使用:

from keras.models import load_model

model = load_model('my_model.h5', custom_objects={'perplexity_loss': perplexity_loss})