gpt4 book ai didi

tensorflow - 如何在 tensorflow 嵌入层中使用 fasttext 向量?

转载 作者:行者123 更新时间:2023-12-05 06:26:14 25 4
gpt4 key购买 nike

我只是在努力寻找如何在 keras/tensorflow 嵌入层中将 Fasttext 词向量用于 OOV 词。外面什么都没有。也许有人也想到了这一点并且对我有一些提示?

通过词嵌入查找的方式是通过索引来工作的,比如tf.nn.embedding_lookup(word_embeddings, x)

您可以为一个 OOV 建立索引。但是我如何在运行时分配一个特定的向量(来自不同的自定义源,如 fasttext)?

我设想了一个函数,它可以自定义将向量分配给 OOV 词的 UNK 索引。

与之相关的:

Assign custom word vector to UNK token during prediction?

Using subword information in OOV token from fasttext in word embedding layer (keras/tensorflow)

最佳答案

您可以在 tensorflow 之外进行嵌入查找\计算,并将嵌入的文本用作模型的输入(因此输入不会是单词索引序列,而是向量序列)

关于tensorflow - 如何在 tensorflow 嵌入层中使用 fasttext 向量?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56399816/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com