machine-learning - 人工神经网络的结果是否应该根据输出而变化？

Question

尽管神经网络的架构保持不变(即输入和隐藏神经元的数量相同、激活函数相同、用于学习的数据相同)，但更改输出变量的数量会降低模型的准确性。

嗨，我运行了一个形状为 (22,20,8) 的神经网络，得到的 rms 值为 5.048，R2 为 0.925，其中一个输出变量对新数据的预测准确度为 98%。然而，我决定不需要所有 8 个输出(仅需要 4 个输出)，因此我再次运行形状为 (22,20,4) 的模型，并收到 rms 值为 8.20、R2 为 0.62、变量精度为 75 %。

如果我只改变输出，这对已经创建的模型的准确性有何影响？我使用相同的数据，所以从模型中学到的关系肯定是相同的，因此对相同的剩余 4 个变量的预测也会相同吗？为什么改变输出会使模型发生如此大的变化？谢谢

Answer 1

If I'm only changing the output, how does this effect the accuracy of the model I've already created?

就您的问题而言，您一定已经意识到模型精度发生了变化。此行为符合预期，因为您正在更改模型。

当您使用 4 个输出 而不是 8 个输出 重新训练模型时，学到的关系与具有 8 个输出的模型不同。

即使改变很小的因素，例如初始权重和偏差、各种初始化的随机状态以及任何其他可调参数，也肯定会导致准确性的变化。

就您而言，架构的更改(大更改)将对结果产生重大影响。