python - Word2Vec + Regression - 数值评分方法

Question

我想构建一个神经网络，以单词和数值组作为输入，以数值作为输出。

为此，我认为最合适的解决方案是对单词组使用 Word2Vec 算法以获得嵌入，然后用它们和其他输入/输出训练神经网络(可能是 LSTM) .

但是如何实现呢？由于每个单词都有一个权重向量(感谢 Word2Vec 算法)，如何训练神经网络来预测数值(换句话说，回归)？或者至少，我怎样才能将这个权重向量转换为有意义的数值？ (我实际上不知道如何用数值向量和“简单”数值一起训练神经网络。)

我尝试在网上查看这些概念，但没有找到与我的目的非常相关的文章。其中一些是:

-带有逻辑回归的词嵌入

-https://machinelearningmastery.com/use-word-embedding-layers-deep-learning-keras

-https://pdfs.semanticscholar.org/8eb6/74c76fc471e9cf815921b6329eb4a1bbed30.pdf

Answer 1

通常您会使用距离算法，例如 cosine similarity计算向量之间的距离。距离越短，你们的话就越相似。