gpt4 book ai didi

Tensorflow softmax_cross_entropy_with_logits 要求未缩放的对数概率

转载 作者:行者123 更新时间:2023-12-03 11:20:30 28 4
gpt4 key购买 nike

我注意到 tf.nn.softmax_cross_entropy_with_logits为 logits 参数请求“未缩放的对数概率”。但是,我没有看到有人建议在提交给这个函数之前对他们的 NN 预测执行日志操作。我在这里遗漏了什么吗?

最佳答案

您不应该执行日志操作。实际上,您不应该执行任何操作:-)。这条评论(可以说很糟糕)试图说的是每个 logit 都是一个不受限制的实数(负数或正数,大小随心所欲)。然后,softmax 交叉熵函数将(在概念上)应用 softmax 运算(取幂,将不受限制的实数转换为正数,然后归一化以使它们总和为 1)并计算交叉熵。

所以,tl;dr,在没有任何标准化或传递函数的情况下将最后一个线性层的输出提供给它,你不会错的。

关于Tensorflow softmax_cross_entropy_with_logits 要求未缩放的对数概率,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/40871797/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com