nlp - word2vec 上的负向量是什么意思？

Question

我正在研究旅行评论并使用 word2vec 来分析评论。然而，当我向我的顾问展示我的输出时，他说我有很多带有负向量值的单词，只有带有正值的单词才被认为是合乎逻辑的。

这些负值意味着什么？有没有办法确保我在分析中得到的所有向量值都是正的？

Answer 1

虽然其他一些词建模算法确实将词建模到维度为 0 或正的空间中，并且各个正维度可能对人类明显有意义，但原始的规范“word2vec”算法并非如此.

任何 word2vec 词向量的正/负性——在特定维度或净量级——没有很强的意义。有意义的词将从原点向各个方向传播。该空间中与可识别类别松散相关的方向或邻域可能出现在任何地方，并且相对于任何维度轴倾斜。

(这里有一个相关的算法，确实使用了非负约束——https://www.cs.cmu.edu/~bmurphy/NNSE/。但大多数对“word2vec”的引用都是指经典方法，其中维度有效地覆盖所有实数。)