neural-network - ANN 绕过隐藏层的输入

Question

我刚刚被安排了一项任务来计算一些 ANN 输出并编写一个 ANN。简单的东西，以前做过，所以我不需要任何关于一般 ANN 东西的帮助。然而，有一点让我感到困惑。在作业中，拓扑如下(不会上传图表，因为它是他的知识产权):-

2 层，3 个隐藏层和 1 个输出。

输入 x1 进入 2 个隐藏节点和输出节点。

输入 x2 进入 2 个隐藏节点。

问题是非常常见的异或。他以前没有提到过这种拓扑结构，我肯定每堂课都听过，专心听。我就是这样的好学生:)

我不认为这算作家庭作业，因为我手头的实际任务不需要帮助。

任何有关为什么要使用具有这种拓扑结构的网络的见解都会很棒。

问候

Answer 1

神经网络看起来像上图吗？它看起来像一个带有一个隐藏层和一个偏置神经元的常见 XOR 拓扑。偏置神经元基本上可以帮助您将激活函数的值向左或向右移动。

有关偏置神经元作用的更多信息，请查看以下答案:

Role of Bias in Neural Networks

XOR problem solvable with 2x2x1 neural network without bias?

Why is a bias neuron necessary for a backpropagating neural network that recognizes the XOR operator?

更新

我能够找到一些关于这方面的文献。显然，输入可以跳过隐藏层并进入输出层。这称为跳跃层，用于在神经网络中对传统的线性回归进行建模。 This page来自本书 使用 Sas Enterprise Miner 的神经网络建模 描述了这个概念。 This page来自同一本书也更详细地介绍了这个概念。