machine-learning - 反前馈神经网络

Question

我一直在网上搜索有关反转前馈神经网络的论文，结果发现有 NLP 和 LP 算法可以反转它们。但大多数论文都对接收一对多的逆映射感兴趣。我想知道这类问题:

假设我有一个函数 z=x+y，我将教我的 FFNN 逼近这个函数。一旦被教授，我想将 x 和 z 作为输入，并希望将 y 作为输出。所以它并不完全是一对多映射，但是它比只有 z 并想要计算 x 和 y 的问题更容易吗？是否有执行此类任务的算法？

Answer 1

据我所知，反转网络的方法通常是对抗方法(GAN)，或者通过优化网络输出来实现(假设优化 |f(x, y') - z| ，其中 y' 是你的问题)。第一种方法比较流行。

让我们更多地讨论第一种方法，我们将您训练来学习 x + y = z 的网络称为 D 网络。您必须训练一个网络(我们称之为 G)来获取 x 和 z 并产生 y 和然后 D 检查这是否是正确的答案(即如果 x + y = z)，我们继续这样做，直到 G 学会满足 D(我遗漏了一些细节，您可以通过研究 GAN 来了解更多信息)。然而，这更像是重新表述我们的问题。

如果您熟悉神经网络的工作原理，您就会知道很难通过确定网络所需的输出和部分输入来训练网络，因为我们无法使用反向传播。

最后，您可能想看看这篇论文。没有太多技术细节，但它提出的正是您所要求的内容: https://openreview.net/forum?id=BJxMQbQ3wm