neural-network - 人工神经网络的深度

Question

根据 this answer , 永远不要使用超过两个神经元隐藏层。

根据 this answer ，中间层最多应包含两倍数量的输入或输出神经元(因此，如果您有 5 个输入神经元和 10 个输出神经元，那么每层应该(最多)使用 20 个中间神经元)。

这是否意味着所有数据都将在该数量的神经元中建模？

因此，例如，如果想要做任何事情，从天气建模(来自不同气象站的数据的一百万个输入节点)到简单的 OCR(分辨率为 1000x1000DPI 的扫描文本)，则需要相同数量的节点？

---

附言。

我的 last question关门了。是否有其他 SE 网站提供此类问题？

Answer 1

您的数据可能会过度拟合(也称为高方差)。可以这样想:你拥有的神经元和层越多，你的参数就越多，可以更好地适应你的数据。

请记住，对于第一层节点，方程变为 Z = sigmoid(sum(W*x))第二层节点变成Z2 = Sigmoid(sum(W*Z))

查看斯坦福大学教授的机器学习类(class)...这是一个很棒的在线类(class)和很好的工具作为引用。