gpt4 book ai didi

batch-file - 反向传播和批量训练

转载 作者:行者123 更新时间:2023-11-30 09:02:32 26 4
gpt4 key购买 nike

反向传播计算每个模式每个权重的 dW(权重增量),因此在进行随机训练时修改权重的方法很简单。那么,我如何使用它进行批量训练呢?只需在整个训练集上累积dW,然后应用修改,或者还有更多吗?

最佳答案

您可以利用不同样本的不同梯度做很多事情。这包括高阶信息(近似二阶导数)或共轭梯度或自然梯度或......:)

关于batch-file - 反向传播和批量训练,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2139940/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com