gpt4 book ai didi

java - 为什么小数运算结果不正确?

转载 作者:行者123 更新时间:2023-12-01 11:05:26 25 4
gpt4 key购买 nike

我想用作精确到小数点后两位的 double 值。但我认为我得到的值不正确。

1.965 = 必须是 1.97,但结果是 1.96

我累了他们:

DecimalFormat("0.00")DecimalFormat("#.##")NumberFormat.getInstance()/..setMaximumFractionDigits(2)

但结果没有改变。

谢谢..

    Log.e("Result:", String.format("%.2f", 1.965 )); // 1.96  < ?
Log.e("Result:", String.format("%.2f", 1.975 )); // 1.98
Log.e("Result:", String.format("%.2f", 1.955 )); // 1.96
Log.e("Result:", String.format("%.2f", 1.9650 )); // 1.96 < ?
Log.e("Result:", String.format("%.2f", 1.9651 )); // 1.97
Log.e("Result:", String.format("%.2f", 1.966 )); // 1.97

最佳答案

原因在于 float 的内部表示方式。它们的形式为(二进制尾数)* 2^(二进制指数)。通常,任何十进制数都无法以二进制形式精确表示,因此在计算该表示形式时已经进行了一些舍入。

简而言之,您的数字 1.965 很可能最终表示为比 1.965 小一点点的二进制 float ,当您的程序将其四舍五入到小数点后两位时,您会得到这种意想不到的结果。

这里http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html全面概述了浮点运算的陷阱。

关于java - 为什么小数运算结果不正确?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33009181/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com