neural-network - 输入数据集如何输入神经网络？

Question

如果我的数据集中有 1000 个观察值，具有 15 个特征和 1 个标签，输入神经元中的数据如何馈送以进行前向传播和反向传播？它是按行输入 1000 个观察值(一次一个)，并根据输入的每个观察值更新权重，还是根据输入矩阵给出完整数据，然后根据时代数，网络学习相应的权重值？此外，如果它一次喂一个，那么在这种情况下什么是纪元？
谢谢

Answer 1

假设数据被格式化为行(1000 个实例，每个实例有 16 个特征，最后一个是标签)，您将逐行输入前 15 个特征，并使用最后一个“特征”/标签作为目标。这叫做在线 学习。在线学习要求您一次输入一个示例中的数据，并对每个示例进行反向传播和权重更新。正如您可以想象的那样，由于每个数据实例的反向传播和更新，这可能会变得非常密集。

您提到的另一个选项是将整个数据输入网络。这在实践中表现不佳，因为收敛速度极慢。

在实践中，小批量 被使用。这涉及发送数据集的一小部分，然后进行反向传播和权重更新。这提供了相对频繁的权重更新以加速学习的好处，但不如在线学习密集。有关小批量的更多信息，请参阅此 University of Toronto Lecture by Geoffrey Hinton

最后，一个 epoch 总是 1 次遍历您的所有数据。一次喂一次还是一次喂一次都没有关系。

我希望这能澄清你的问题。