deep-learning - 如何使用 GPU 训练数百万个 doc2vec 嵌入？

Question

我正在尝试根据用户浏览历史记录(标记为 user_id 的 URL)训练 doc2vec。我使用chainer深度学习框架。

有超过 2000 万个(user_id 和 urls)的嵌入要初始化，这些嵌入不适合 GPU 内部存储器(最大可用 12 GB)。 CPU 上的训练非常缓慢。

我正在尝试使用此处给出的链器编写的代码
https://github.com/monthly-hack/chainer-doc2vec

如果有的话，请建议尝试的选项。

Answer 1

您也可以引用chainer官方word2vec例子。

https://github.com/chainer/chainer/tree/master/examples/word2vec

您是否已经尝试过使用 GPU 进行训练？通常只提取batch size的数据到GPU显存，所以总数据数(20M)不影响GPU显存限制。