gpt4 book ai didi

Tensorflow:拦截、修改梯度并继续反向传播

转载 作者:行者123 更新时间:2023-12-03 16:25:02 29 4
gpt4 key购买 nike

是否有可能从某个任意层拦截反向梯度,修改其值并继续反向传播回到网络的开始,根据您提供的修改后的梯度值更新所有先前层的反向梯度?

我知道你可以directly modify the gradients themselves before applying the update ,但据我所知,这只会修改指定层的梯度 没有 传播到前一层的梯度。

最佳答案

您应该能够使用此处描述的方法创建修改后的自定义渐变操作来为您执行此操作:Tensorflow: How to replace or modify gradient?

关于Tensorflow:拦截、修改梯度并继续反向传播,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/44173297/

29 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com