machine-learning - 命名实体识别任务中的条件随机字段是双向的吗？

Question

我目前正在从事命名实体识别任务。我正在使用条件随机场算法对标记的实体进行分类。我想知道这个算法是否像 BERT 一样是双向的？

该算法对每个单词的特征包括前一个单词和下一个单词，所以我猜是这样的。这是否也意味着 CRF 正在预测整个句子？还是每个字？

感谢您对这个问题的任何指导!

Answer 1

没有。

例如，线性链条件随机场如下所示:

如您所见，为了预测 Y4，您使用观测特征 phi_4'(Y4,X4) 和过渡特征 phi_3(Y3,Y4)。这是因为 CRF 遵循马尔可夫假设，即 Y3 的预测已经依赖于 Y3 和 Y2，因此，Y'4 转移概率仅根据 Y3 估计。

但是，您始终可以以相反的顺序提供观察特征序列的输入，以获得反向转移概率。