python - 如何将 Pandas DataFrame 中加载的嵌入转换为 Gensim 模型？

Question

我有一个 DataFrame，其中索引是单词，我有 100 列 float ，这样对于每个单词，我都将其嵌入为 100d 向量。我想将我的 DataFrame 对象转换为 gensim model object这样我就可以使用它的方法；特别是 gensim.models.keyedvectors.most_similar() 这样我就可以在我的子集中搜索相似的词。

这样做的首选方式是什么？

谢谢

Answer 1

不确定这样做的“首选”方式是什么，但是 gensim 期望的格式很容易复制:

data = pd.DataFrame([[0.15941701, 0.84058299],
                     [0.12190033, 0.87809967],
                     [0.06293788, 0.93706212]],
                    index=["these", "be", "words"])

np.savetxt('test.txt', data.reset_index().values, 
           delimiter=" ", 
           header="{} {}".format(len(data), len(data.columns)),
           comments="",
           fmt=["%s"] + ["%.18e"]*len(data.columns))

header是2个空格分隔的整数，词汇表中的词数和词向量的长度。每行的第一列是单词本身。其余列是词向量的元素。 fmt 的奇怪之处在于将第一个元素格式化为字符串，其余元素格式化为 float 。

然后可以将其加载到 gensim 中并执行任何操作:

import gensim

from gensim.models.keyedvectors import KeyedVectors
word_vectors = KeyedVectors.load_word2vec_format('test.txt', binary=False)

word_vectors.similarity('these', 'words')