gpt4 book ai didi

java - 非整数 ULP 错误?

转载 作者:行者123 更新时间:2023-11-29 06:42:32 25 4
gpt4 key购买 nike

我有一个关于浮点精度的问题。据我了解,ULP 是给定规范中两个连续的离散有限数之间的距离。或如名称所述位于最不重要位置的单位。无论如何,我在 java.lang.Math 中的 sinh 的 Java 规范中看到了这一点:

“计算结果必须在精确结果的 2.5 ulps 以内。”

我不明白你怎么会有一个不是整数的 ULP 错误。如果您偏离 2.5 ULP,这是否意味着有一个地方比最不重要的地方更不重要?误差为 2.5 个 ULP 是什么意思?

最佳答案

考虑计算 3/2。确切的结果是 1.5。在整数运算中,结果为 1。这是 0.5 的误差,即半个 ULP。

类似的推理可以应用于浮点运算。

关于java - 非整数 ULP 错误?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/9846983/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com