tensorflow - 训练 CNN 后，其输出是否应该是确定性的？

Question

我刚刚使用 Tensorflow/Keras 训练了一个 CNN 并将其保存为模型。我尝试通过它多次运行大约 1000 个输入，每次都得到略有不同的预测准确度。准确性很好，我不关心性能；但是，我认为 CNN 模型一旦经过训练，就应该是确定性的。也就是说，任何输入都将始终以相同的方式分类。不是这样吗？模型在训练后的预测方式是否存在可变性？如果没有，希望我可以假设我已经在不知不觉中将一些可变性编程到我的代码中。任何帮助将不胜感激。

Answer 1

Once a CNN is trained, should its ouputs be deterministic?

嗯，理论上，是的。在实践中，正如 Peter Duniho 在他出色的解释性评论中指出的那样，我们可以看到由于值的计算、汇总等方式非常的小偏差。

在实践中，如此小的偏差改变分类模型的预测类别(并因此改变准确性)的概率非常小，以至于我几乎可以肯定您的示例中有其他因素在起作用。甚至超过 1000 个样本量。

你有没有进行一些训练正则化，比如批量归一化？您确定您每次都在准确评估相同的 1000 个输入吗？不得不怀疑问题出在代码中而不是舍入错误中。

你能确定哪些具体的分类发生了变化吗？