neural-network - 多输出分类神经网络如何工作？

Question

我目前了解并制作了一个简单的神经网络来解决 XOR 问题。我想制作一个用于数字识别的神经网络。我知道使用 MNIST 数据我需要 784 个输入神经元、15 个隐藏神经元和 10 个输出神经元 (0-9)。

但是，我不明白如何训练网络以及前馈如何与多个输出神经元一起工作。

例如，如果输入是数字 3 的像素，网络将如何确定选择哪个输出神经元，以及在训练时，网络如何知道哪个神经元应该与目标值相关联。

任何帮助，将不胜感激。

Answer 1

所以你有一个多输出的分类问题。我假设您正在为输出层使用 softmax 激活函数。

网络如何确定选择哪个输出神经元:简单，最有可能成为目标类别的输出神经元。

网络将使用标准反向传播进行训练，与只有一个输出的算法相同。

只有一个区别:激活函数。
对于二元分类，您只需要一个输出(例如数字 0 和 1，如果概率 < 0.5，则类为 0，否则为 1)。

对于多类分类，每个类都需要一个输出节点；然后网络将选择最有可能成为目标类的节点。