gpt4 book ai didi

machine-learning - 神经网络中的 Train loss、Valid loss 和 Train/Val 是什么意思

转载 作者:行者123 更新时间:2023-11-30 08:23:24 34 4
gpt4 key购买 nike

我目前正在通过研究 MNIST 示例等示例来学习卷积神经网络。在神经网络的训练过程中,我经常看到如下输出:

 Epoch  |  Train loss  |  Valid loss  |  Train / Val
--------|--------------|--------------|---------------
50 | 0.004756 | 0.007043 | 0.675330
100 | 0.004440 | 0.005321 | 0.834432
250 | 0.003974 | 0.003928 | 1.011598
500 | 0.002574 | 0.002347 | 1.096366
1000 | 0.001861 | 0.001613 | 1.153796
1500 | 0.001558 | 0.001372 | 1.135849
2000 | 0.001409 | 0.001230 | 1.144821
2500 | 0.001295 | 0.001146 | 1.130188
3000 | 0.001195 | 0.001087 | 1.099271

除了纪元之外,有人能给我解释一下每列到底代表什么以及这些值的含义吗?我看到很多关于基本 cnn 的教程,但我还没有遇到详细解释这一点的教程。

最佳答案

除了用于训练网络的数据之外,似乎还使用了一组保留的数据。训练损失是训练数据集上的误差。验证损失是通过经过训练的网络运行验证数据集后的错误。 Train/valid是两者之间的比率。

出乎意料的是,随着纪元的增加,验证错误和训练错误都会下降。但在某个时刻,虽然训练误差继续下降(网络越来越好地学习数据),但验证误差开始上升——这就是过度拟合!

关于machine-learning - 神经网络中的 Train loss、Valid loss 和 Train/Val 是什么意思,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36963054/

34 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com