machine-learning - 自动编码器可以用于重建非二进制向量吗？

Question

我最近了解了自动编码器，并计划构建一个自动编码器作为具有隐式反馈的推荐系统的一部分。

根据经典自动编码器的工作原理，它们似乎可用于重建其分量不一定为 0 或 1 的向量。但是，所有介绍性 Material 似乎都表明自动编码器对二进制向量进行操作，x =[0,1]^d，如here ，或本 paper 中的第 2.2 节.

为了对非二进制向量使用自动编码器，在我看来唯一的区别是应该使用 L2 误差函数而不是适用于二进制情况的交叉熵。

如果有人能为我澄清这一点，我将不胜感激。

Answer 1

你混淆了符号

x e [0, 1]^d

表示“x属于d维单位超立方体空间”。要说“x 是长度为 d 的二进制向量”，您可以这样写

x e {0, 1}^d

注意不同的括号。 [0, 1] 是一个区间，而不是 2 个元素的集合。

因此没有人声称自动编码器需要二进制输入，并且它不需要，它是在整个 R^d 空间中定义的(但是由于各种原因，它更容易处理来自某个有限子集的值，因此 [0, 1] 超立方体，对此我们有很好的启发式初始化)。