python-2.7 - 神经网络中隐藏层神经元的数量应该如何设置？

Question

关闭。这个问题需要多问 focused 。目前不接受答案。

---

想要改进此问题吗？更新问题，使其仅关注一个问题 editing this post .

已关闭 4 年前。

Improve this question

在神经网络理论中 - 设置隐藏层的大小似乎是一个非常重要的问题。如何选择隐藏层中神经元的数量有什么标准吗？

Answer 1

是的 - 这是一个非常重要的问题。基本上有两种方法可以做到这一点:

1. 尝试不同的拓扑并选择最佳的:由于神经元和层的数量是离散参数，因此您无法根据此参数区分损失函数以使用梯度下降方法。因此，最简单的方法是简单地设置不同的拓扑，并使用交叉验证或将训练集划分为训练/测试/验证部分来比较它们。您还可以使用网格/随机搜索架构来执行此操作。像 scikit-learn 这样的库有相应的模块。
2. Dropout:称为 Dropout 的训练框架也可能有所帮助。在这种情况下，您将在层中设置相对较多的节点，并尝试调整每个层的 dropout 参数。在这种情况下 - 例如假设您的隐藏层中有一个包含 100 个节点的两层网络，且 dropout_parameter = 0.6 您正在学习模型的混合 - 其中每个模型都是一个神经网络大小为 40(大约 60 个节点关闭)。这也可能被视为找出适合您任务的最佳拓扑。