python - CNTK:定义自定义损失函数(Sørensen-Dice 系数)

Question

我想使用 Wiki: Sørensen–Dice coefficient作为 CNTK/Python 中的损失函数。如何定义自定义损失函数。

Answer 1

回答您更一般的问题“我如何定义自定义损失函数:”

在 CNTK 中，损失函数并不特殊。任何产生标量的表达式都可以用作损失函数。学习器将通过对小批量中所有样本的标量损失值求和来计算小批量级损失，并像通过任何 CNTK 表达式一样通过它进行反向传播。

例如，以下是定义平方误差损失的一种方式:

def my_square_error(x,y):
    diff = x-y
    return times_transpose(diff, diff)

cross_entropy_with_softmax() 损失可以用 Python 写成这样:

def my_cross_entropy_with_softmax(output, labels):
    logZ = reduce_log_sum(output)  # log of softmax denominator
    return times_transpose(labels, output) - logZ

最后，多任务学习可以通过使用作为多个损失的加权和的损失函数来简单地实现。