tensorflow - 如何在 tensorflow 中实现句子级对数似然？

Question

我想实现句子级对数似然，如
Collobert et al. ，第14.

为了计算转换分数，我可以使用 CRF，但我不知道如何将它集成到 tensorflow 中。我想过使用
tf.contrib.crf.CrfForwardRnnCell计算转换分数，但此类返回 一对 [batch_size, num_tags] 个矩阵值包含新的 alpha 值，而不是我期望的一个 [batch_size, num_tags, num_tags] 张量。

有没有人有如何在 tensorflow 中使用 CRF 的例子？谢谢!

Answer 1

这里给出了在 TensorFlow 中使用 contrib.crf 的一个很好的例子:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/crf

值得注意的是，Collobert 等人在论文中描述的 SLL 目标。 2011 与 CRF 目标略有不同，因为 SLL 缺乏标准化(请参阅第 16 页的备注 4)，但这在实践中应该无关紧要(我只是使用 CRF。)