gpt4 book ai didi

neural-network - 子梯度的总和或平均值?,小批量 SGD keras

转载 作者:行者123 更新时间:2023-12-04 04:30:35 33 4
gpt4 key购买 nike

我搜索了很多关于在使用多层感知器时如何计算 Keras 中的小批量梯度,但似乎找不到答案。我想知道每个小批量的梯度平均值是否用于更新权重和偏差,或者它是否是梯度的总和?

如果知道答案的人可以提供帮助,我将不胜感激,如果可能的话,请告诉我在哪里可以找到这些信息。

最佳答案

我认为说损失的平均值或损失的总和是有意义的,但不是梯度的平均值/总和。而且我认为使用平均损失来计算梯度总是安全的。

关于neural-network - 子梯度的总和或平均值?,小批量 SGD keras,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/41150463/

33 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com