machine-learning - AutoEncoder 无法理解为什么我的解码图像看起来像热图？

Question

我在实现变分自动编码器时遇到了一个大问题，它是所有图像最终看起来像这样:

当真实图像是这样的:

训练集是 CIFAR10，预期结果是设法构建相似的图像。虽然结果似乎正确预测了特征图，但我不明白为什么 50 个 epoch 后结果会是这样。

我使用了更少和更多数量的过滤器，目前为 128 个。这个结果可以来自网络架构吗？或者 epoch 的数量？

使用的损失函数是MSE和优化器RMSPROP。

我也尝试过实现这种架构:https://github.com/chaitanya100100/VAE-for-Image-Generation/blob/master/src/cifar10_train.py具有相似的结果，甚至更糟。

我很困惑这里可能存在什么问题。保存方法是使用 matplotlib pyplot 来保存预测及其真实对应物。

Answer 1

无用的答案是“自动编码器很难”!您的网络陷入了局部最小值，每次都预测平均像素值(跨整个数据集)。

我建议:

• 改变你的学习率，包括大幅降低它。最终您可能需要训练更长时间，但只需训练几个 epoch 并检查它是否每次都预测相同的图像。
• 添加更多过滤器，因为这应该使输入到输出的映射更容易学习，尽管这在某种程度上违背了自动编码器的目的，因为您增加了“压缩”版本的大小。
• 尝试使用绝对误差来弥补您的损失。这有助于回归已经彼此接近的值(即相差小于一)。

我确信其他人会添加建议，但我会从上面的内容开始。