tensorflow - 如何训练反向嵌入，如 vec2word？

Question

你如何训练神经网络从向量表示映射到一个热向量？我感兴趣的例子是向量表示是 word2vec 的输出。嵌入，我想映射到用于训练嵌入的语言中的单个单词，所以我猜这是 vec2word ?

更详细一点；如果我理解正确，嵌入空间中的一组点表示相似的单词。因此，如果您从该集群中的点中采样，并将其用作 vec2word 的输入，输出应该是到相似的单个词的映射？

我想我可以做一些类似于编码器-解码器的事情，但是它必须那么复杂/使用这么多参数吗？

有这个TensorFlow tutorial ，如何训练word2vec ，但我找不到任何帮助来做相反的事情？我很高兴使用任何深度学习库来做这件事，并且可以使用采样/概率来做到这一点。

非常感谢你的帮助，阿杰。

Answer 1

您可以做的一件最简单的事情是使用最近邻词。给定一个未知词的查询特征 fq ，以及已知词的引用特征集 R={fr} ，那么你可以找出最近的 fr*为 fq ，并使用对应的 fr*字为 fq的话。