python - VGG，keras 中的感知损失

Question

我想知道是否可以将自定义模型添加到 keras 中的损失函数。例如:

def model_loss(y_true, y_pred):
    inp = Input(shape=(128, 128, 1))
    x = Dense(2)(inp)
    x = Flatten()(x)

    model = Model(inputs=[inp], outputs=[x])
    a = model(y_pred)
    b = model(y_true)

    # calculate MSE
    mse = K.mean(K.square(a - b))
    return mse

这是一个简化的例子。我实际上会在损失中使用 VGG 网络，所以只是想了解 keras 的机制。

Answer 1

通常的做法是将 VGG 附加到模型的末尾，确保其所有层在编译前都具有 trainable=False。

然后您重新计算 Y_train。

假设您有这些模型:

mainModel - the one you want to apply a loss function    
lossModel - the one that is part of the loss function you want   

创建一个将一个模型附加到另一个模型的新模型:

from keras.models import Model

lossOut = lossModel(mainModel.output) #you pass the output of one model to the other

fullModel = Model(mainModel.input,lossOut) #you create a model for training following a certain path in the graph. 

此模型将具有与 mainModel 和 lossModel 完全相同的权重，并且训练此模型会影响其他模型。

编译前确保 lossModel 不可训练:

lossModel.trainable = False
for l in lossModel.layers:
    l.trainable = False

fullModel.compile(loss='mse',optimizer=....)

现在调整你的训练数据:

fullYTrain = lossModel.predict(originalYTrain)

最后进行训练:

fullModel.fit(xTrain, fullYTrain, ....)