machine-learning - 用于公式分类/计算的人工神经网络

Question

我正在尝试创建一个人工神经网络来计算/分类一个/任何公式。

我最初尝试复制斐波那契数列。我使用输入:

• [1,2]输出[3]
• [2,3]输出[5]
• [3,5]输出[8]
• 等等...

我试图克服的问题是如何标准化可能无限或呈指数级扩展的数据？然后，我尝试创建一个 ANN 来计算输入的斜率截距公式 y = mx+b (2x+2)

• [1]输出[4]
• [2]输出[6]
• 等等...

我再次不知道如何标准化数据。如果我仅对训练数据进行标准化，网络如何能够使用标准化所用之外的输入进行计算或分类？

那么是否可以创建一个人工神经网络来计算/分类公式 ((a+2b+c^2+3d-5e) modulo 2)，其中公式未知，但输入(一些)a， b、c、d 和 e 以及输出都给出了吗？本质上是对计算输出是奇数还是偶数以及输入是否在 -+无穷大之间进行分类...

Answer 1

好的，我想我明白你现在想要做什么。基本上，您将拥有一组代表函数系数的输入。您希望人工神经网络告诉您具有这些系数的函数是否会产生偶数或奇数输出。如果这是错误的，请告诉我。这里有一些潜在的问题:

首先，虽然可以使用神经网络进行加法，但通常效率不高。您还需要以非常具体的方式设置 ANN，可以使用与通常使用不同的节点类型，或者设置复杂的循环拓扑。这可以解释您在斐波那契数列和直线方程方面缺乏成功的原因。

但是还有一个更根本的问题。您可能听说过 ANN 是通用函数逼近器。但是，在这种情况下，人工神经网络正在学习的函数将不是您的公式。当你有一个 ANN 学习输出 0 或 1 来响应一组输入时，它实际上是在尝试学习一条线(或一组线，或超平面，取决于拓扑)的函数，该函数将所有输出应为 0 的输入来自输出应为 1 的所有输入。(请参阅 this question 的答案以获得更全面的解释和图片)。因此，问题是是否存在一个超平面将导致偶数输出的系数与导致奇数输出的系数分开。

我倾向于说这个问题的答案是否定的。例如，如果您考虑示例中的 a 系数，您会发现每次将其增加或减少 1 时，正确的输出都会切换。对于 c、d 和 e 项也是如此。这意味着不存在大量相对相似的输入都返回相同的输出。

为什么需要知道未知函数的输出是偶数还是奇数？可能还有其他更合适的技术。