- Java 双重比较
- java - 比较器与 Apache BeanComparator
- Objective-C 完成 block 导致额外的方法调用?
- database - RESTful URI 是否应该公开数据库主键?
我知道二进制 float 的特性,计算机无法将它们计算为四舍五入的数字。我想知道是否有任何“逻辑”来知道哪些 float 将被舍入,哪些不会被舍入?
例如,当我在控制台中运行 0.1 + 0.2 时,它会返回0.30000000000000004。然而,当我运行 0.1 + 0.3 时,它会正确返回 0.4。
是否有任何逻辑可以确定哪些特定的 float 不会“正确”舍入?
最佳答案
paul23's answer处理一般原则。本回答对问题中的具体情况进行了分析。
对于表示十进制数的每个字符串,四舍五入将产生特定的 64 位二进制 IEEE754 数。以下是问题中数字的映射:
0.1 0.1000000000000000055511151231257827021181583404541015625
0.2 0.200000000000000011102230246251565404236316680908203125
0.3 0.299999999999999988897769753748434595763683319091796875
0.30000000000000004 0.3000000000000000444089209850062616169452667236328125
0.4 0.40000000000000002220446049250313080847263336181640625
在转换为 float 时,0.1 和 0.2 都向上舍入,因此它们的和将大于 0.3。另一方面,0.3 向下舍入,因此总和大于最接近 0.3 的 float 。任一方向的舍入误差为 2.77555756156289135105907917022705078125E-17,但四舍五入规则导致四舍五入。
当添加 0.1 和 0.3 时,输入的舍入误差方向相反。确切的金额是0.3999999999999999944488848768742172978818416595458984375,恰好是可表示数字之间的一半0.399999999999999966693309261245303787291049957275390625 和 0.40000000000000002220446049250313080847263336181640625。舍入误差为 2.77555756156289135105907917022705078125E-17。
较大的位模式的十六进制表示是 3fd999999999999a,它是偶数,所以这就是四舍五入的方式。碰巧的是,这也是最接近 0.4 的 float 。
除非您将自己限制在可以用 64 位二进制 float 精确表示的数字上进行算术运算,否则很难预测哪些计算将获得最接近预期十进制计算的 float ,哪些不会。如果这很重要,那么您要么打印带有太多小数位的输出,要么您需要不同的数据类型。
关于javascript - 您如何知道 JavaScript float 何时不会被舍入?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/57749879/
我在 ASP.NET MVC 中有一个发票页面。 我正在计算 GST。 在 javascript 中这是结果。 165.45 * 0.1 = 16.544999999999998 在 C# 中我得到
在 JavaScript 中,我想将其减少到小数点后 5 位。不过,我不能简单地四舍五入并得到 0.03085,我需要进一步查看数字并将所有数字向上舍入,以便得到 0.03086。 输入:0.0308
有人可以解释为什么 R 这样做吗?在整数值上舍入最大值和最小值似乎非常有缺陷。 summary(1:1283932) Min. 1st Qu. Median Mean 3rd Qu.
所以基本上我正在做一个物理实验,在我的表格中,我希望我的数据四舍五入到与误差相同的精度,四舍五入为 1 sig fig。 例如,如果我有以下内容: angle signif(c(1.111,2.22
考虑以下 C# 代码... double x = Math.Round(72.6d, 2, MidpointRounding.ToZero); double y = Math.Round(82.6d,
我正在学习 BigDecimal,我希望它检索我输入的确切数字,以下代码正在处理该数字,我不知道为什么 public static BigDecimal parseFromNumberString(S
double y1 = 0; double y2 = 0; double i = 0.025; double n = 2; double h1 = 2000; double h2 = 4000
所以在下面的一组代码中,出于某种原因我得到了完全错误的答案...... import java.util.*; import java.io.*; import java.lang.*; import
在 Python 中,我想将两个数字相除,如果答案不是整数,我希望将数字四舍五入为上面的数字。 例如 100/30 不是给 33.3 而是给 4。谁能建议如何做到这一点?谢谢。 最佳答案 您可以使用
我需要对一个 float 进行四舍五入。例如 4.00011 。内置函数 round() 总是在数字 > .5 时向上舍入,在 = 0 val *= 10 ** precision r
我的代码: // Convert SATOSHIS to BITCOIN static double SATOSHI2BTC(const uint64_t& value) {
我想让我的 tableView 看起来像这样: 我有问题。只有在我点击单元格后,我的右角才会变圆。当 View 出现时,它看起来像这样: 点击后像这样: 这是我的代码: extension UITab
这个问题在这里已经有了答案: Precision String Format Specifier In Swift (31 个答案) 关闭 8 年前。 除了覆盖当前转换为字符串的方法之外,是否有一种
>>> a = 0.3135 >>> print("%.3f" % a) 0.314 >>> a = 0.3125 >>> print("%.3f" % a) 0.312 >>> 我期待 0.313
我有自动将输入字段加在一起的 javascript 函数,但是添加像 1.35 + 1.35 + 1.35 这样的数字会得到 4.050000000000001 的输出,这只是一个例子。如何将总数四舍
这可能是 x86 FPU 专家的问题: 我正在尝试编写一个生成范围 [min,max] 内的随机浮点值的函数。问题是我的生成器算法(浮点 Mersenne Twister,如果你好奇的话)只返回 [1
我一定错过了一些明显的东西。 select CEILING(85/30) = 2 85/30 = 2.83333 我希望该值为 3。 CEILING 函数不应该为我取整吗? 最佳答案 尝试 SELEC
我有一个关于 eclipse rcp 中的 ctabfolders 的问题。我创建了一个 e4 RCP 应用程序,其中包含一个包含堆栈部分容器的窗口,其中包含一个堆栈。该堆栈包含 1 个部分。在这一部
Closed. This question needs details or clarity。它当前不接受答案。
我读过其他一些帖子,它们似乎对其他人有用,但当我尝试它们时,它们不起作用。我刚刚开始学习Java编程,我似乎不明白如何四舍五入。 我试过了 answer = input * input; answer
我是一名优秀的程序员,十分优秀!