gpt4 book ai didi

neural-network - 我应该使用损失还是准确度作为提前停止指标?

转载 作者:行者123 更新时间:2023-12-04 08:51:29 37 4
gpt4 key购买 nike

我正在学习和试验神经网络,并希望得到更有经验的人对以下问题的意见:

当我在 Keras 中训练自动编码器('mean_squared_error' 损失函数和 SGD 优化器)时,验证损失逐渐下降。并且验证准确度正在上升。到现在为止还挺好。

然而,一段时间后,损失不断减少,但准确度突然回落到低得多的低水平。

  • 准确度上升非常快并保持高位突然回落是“正常”或预期的行为吗?
  • 即使验证损失仍在下降,我是否应该停止以最大准确度进行训练?换句话说,使用 val_acc 或 val_loss 作为指标来监控提前停止?

  • 看图片:

    损失:(绿色 = val,蓝色 = 火车]
    enter image description here

    准确度:(绿色 = val,蓝色 = 火车]
    enter image description here

    更新:
    下面的评论为我指明了正确的方向,我想我现在更好地理解了。如果有人可以确认以下内容是正确的,那就太好了:
  • 准确度度量衡量 y_pred==Y_true 的百分比,因此仅对分类有意义。
  • 我的数据是真实和二进制特征的组合。准确率图上升非常陡峭然后回落,而损失继续下降的原因是因为在 5000 纪元左右,网络可能正确预测了 +/- 50% 的二元特征。当训练继续时,大约在 12000 epoch 左右,对真实特征和二元特征的预测共同改进,因此损失减少,但仅对二元特征的预测不太正确。因此精度下降,而损失减少。
  • 最佳答案

    如果预测是实时的或者数据是连续的而不是离散的,那么使用 MSE(均方误差),因为这些值是实时的。
    但是在离散值(即)分类或聚类的情况下,使用准确性,因为给定的值只有 0 或 1。因此,这里 MSE 的概念将不适用,而是使用精度 = 错误值数/总值 * 100。

    关于neural-network - 我应该使用损失还是准确度作为提前停止指标?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/37141636/

    37 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com