gpt4 book ai didi

keras - 如何在预训练的 ELMO 嵌入中获得相似的词?

转载 作者:行者123 更新时间:2023-12-04 13:42:03 24 4
gpt4 key购买 nike

如何在预训练的 ELMO 嵌入中获得给定单词的相似单词?例如:在 Glove 中,我们使用 glove_model.most_similar() 来查找最相似的单词及其对任何给定单词的嵌入。
同样,我们在 ELMO 中有什么吗?

最佳答案

与 GloVe 不同,GloVe 对有限词汇表中的每个词都有一个单独的条目,ELMo 使用字符级 CNN 动态计算词嵌入,因此理论上,ELMo 应该能够处理无限词汇量。在实践中,它只适用于在训练中遇到的单词和与其相似的单词,但它仍然能够获得向量或任意字符串。

所以,像 GloVe 那样拥有一个方法并没有多大意义。但是,您可以为您感兴趣的词汇预先计算向量并自己实现最近邻搜索,例如,使用 scipy.spatial.cKDTree .

关于keras - 如何在预训练的 ELMO 嵌入中获得相似的词?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/55728245/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com