neural-network - 神经网络中的节点应该如何连接？

Question

我最近接触到了神经网络的神奇世界。我注意到他们惊人的灵 active 和能力。然而，我不会撒谎，我对它们的技术细节了解甚少。感兴趣的网络是多层感知器。它由一些输入节点、一些隐藏节点和一些输出节点组成。但是，我想知道，是否所有输入节点都需要连接到所有隐藏节点，并且所有隐藏节点都需要连接到所有输出节点？或者是否有一些决定因素来决定哪些输入节点应该连接到哪些隐藏节点，而哪些隐藏节点又连接到哪些输出节点？

非常感谢您的帮助:3

Answer 1

do all input nodes need to be connected to all hidden nodes and allhidden nodes need to be connected to all output nodes?

自 Multi-Layer Perceptron (MLP) is a Fully Connected Network ，一层中的每个节点以一定的权重W{i,y}连接到下一层中的每个节点。请参见下图。

Or is there some determining factor to decide which input nodes should be connected to which hidden nodes which are in turn connected to which output nodes?

您可以实现pruning methods删除一些连接并观察是否可以提高神经网络的准确性和性能。一般来说，它是在你训练你的神经网络模型之后制作的，你可以看到性能。请参阅这些链接:

• A new pruning algorithm for neural network
• An iterative pruning algorithm for feedforward neural networks

它也可以通过穷举搜索来实现，换句话说，就是蛮力(删除并重新连接每层之间的节点)。