artificial-intelligence - 为什么要识别 XOR 算子的反向传播神经网络需要偏置神经元？

Question

我发了一个 question昨天关于我在 XOR 算子的反向传播神经网络中遇到的问题。我做了更多的工作，并意识到这可能与没有偏置神经元有关。

我的问题是，偏置神经元的一般作用是什么，它在识别 XOR 算子的反向传播神经网络中的作用是什么？是否有可能创建一个没有偏置神经元的神经元？

Answer 1

可以创建一个没有偏置神经元的神经网络......它会工作得很好，但有关更多信息，我建议您查看此问题的答案:

Role of Bias in Neural Networks

更新:
偏置神经元在试图求解模型异或的神经网络中的作用是最小化神经网络的大小。通常，对于“原始”(不确定这是否是正确的术语)逻辑函数，例如 AND , OR , NAND等，您正在尝试创建一个具有 2 个输入神经元、2 个隐藏神经元和 1 个输出神经元的神经网络。这不能为 XOR 做因为你可以用最简单的方式对 XOR 建模有两个NAND s:



你可以考虑A和 B作为你的输入神经元，中间的门是你的“偏置”神经元，后面的两个门是你的“隐藏”神经元，最后你有输出神经元。您可以解决XOR没有偏置神经元，但它需要您将隐藏神经元的数量增加到至少 3 个隐藏神经元。在这种情况下，第三个神经元本质上充当偏置神经元。这是另一个关于 XOR 的关于偏置神经元的问题。 :XOR problem solvable with 2x2x1 neural network without bias?