gpt4 book ai didi

nlp - 手套嵌入中的标记和词汇意味着什么?

转载 作者:行者123 更新时间:2023-12-02 03:54:51 24 4
gpt4 key购买 nike

我正在使用手套嵌入,但我对嵌入中的tokensvocab感到非常困惑。比如这个:

Common Crawl (840B tokens, 2.2M vocab, cased, 300d vectors, 2.03 GB download)

tokensvocab 分别意味着什么?有什么区别?

最佳答案

在 NLP 中,标记是指语料库中“单词”的总数。我将单词放在引号中,因为定义因任务而异。词汇是独特“单词”的数量。

应该是 vocab <= tokens 的情况。

关于nlp - 手套嵌入中的标记和词汇意味着什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/39351215/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com