- Java 双重比较
- java - 比较器与 Apache BeanComparator
- Objective-C 完成 block 导致额外的方法调用?
- database - RESTful URI 是否应该公开数据库主键?
我用 java 编写了一个关于 float 的程序,但获得的输出不准确;而用 C 编写的相同程序确实产生了准确的结果。
代码片段:
public class One {
public static void main(String...args){
double i, num=0.0;
for(i=0;i<10;i++)
num=num+0.1;
System.out.println(num);
}
}
输出:0.9999999999999999
C中的程序是这样的
#include<stdio.h>
main()
{
double i,num=0.0;
for(i=0;i<10;i++)
num=num+0.1;
printf("%f",num);
}
输出:1.00000
我做错了什么?
最佳答案
认为 C 程序更准确的想法是对正在发生的事情的误解。两者的答案都不精确,但默认情况下 C 已四舍五入为 6 位有效数字。 隐藏微小错误。如果您在计算中实际使用该值(例如 num==1
),您会发现两者都不准确。
一般来说,智能编写的程序可以毫无困难地处理这个微小的错误。例如,您的程序可以重写为每次都重新创建一个 double
double i, num=0.0;
for(i=0;i<10;i++)
num=0.1*i;
System.out.println(num);
}
意思是错误不会增长。此外,你不应该将 == 与 double 一起使用,因为在那里可以看到微小的不准确。
在非常非常偶然的情况下,这个微小的错误是一个问题(货币程序是最常见的);可以使用 bigDecimal。
有以10为底的分数不能准确表示;例如 1/3。同样,有些分数无法用二进制精确表示,例如 1/10。 It is from this perspective that you should look at this
本例中的问题是,当您写入“0.1”时,计算机必须将其转换为二进制数,即 10 进制数,0.1=(binary)0.00011001100110011001100110011001......
永远,但因为它不能用空格精确地表示它以二进制形式结束,所以它最终为 (binary)0.000110011001100
1。一个二进制友好数字(例如 1/2)将是完全准确的,直到 double 字用完(此时甚至无法准确表示二进制友好数字)
1小数位数不准确
关于java - 工作小数点数,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/20494126/
我试图找到一种方法来限制 Haskell,以便返回只有 2 个十进制名称的数字(例如 1.24) 我的代码是: sumSquares = sum . map (^ 2) 在 Haskell 中如何做到
我在向输入框添加停靠点验证时遇到一些问题。仅允许数字的限制(第二个条件)有效,但第一个条件也可能不存在。输入框中仍然没有出现句号和小数点。 function isNumberKey(evt) {
如何处理R中的p值? 我期望非常低的 p 值,例如: 1.00E-80 我需要-log10 -log10(1.00E-80) -log10(0) 是 Inf,但 Inf 也有四舍五入的感觉。 但似乎在
我的数据库中有一个包含货币字段的表。我已经为该货币字段创建了实体并创建了 decimal 属性。当该字段的值显示在我的 MVC3 View 上时,它在小数点后有四个零 0000,如下所示:5489.0
label.text = [NSString stringWithFormat:@"%.2f",final]; 上面的语句显示变量“final”中可用的浮点值,小数点后两位。 我想显示小数位数,具体取
有没有办法在 Qt 5 中绘制带有小数点大小的文本。我正在尝试使用 QFont::setPointSizeF() 但它似乎在我尝试过的任何平台(mac/linux/windows)上都不起作用,并且点
我有一个关于如何将基数为 10 的数字转换为 IEEE 754 浮点表示的示例 Number: 45.25 (base 10) = 101101.01 (base 2) Sign: 0 Normali
我有一个包含以下值的 CSV 文件: 3271.96;274;272;1;1;0;1;0.071690;0;0;0;0;0;0;1.753130;1.75;0;1.75; 但是当我用 Excel 打开
有人可以对 here 中的这些特殊字符示例给出更好的解释吗? ?或者提供一些更清楚的例子? (x) The '(foo)' and '(bar)' in the pattern /(foo) (bar
我编写了 change() 来帮助我将字符串转换为 double。 例如:如果字符串是“5.5”,我希望数字是5.5。如果字符串是“0.0”,我希望数字是0。另一个例子:“50”到50。 现在的问题是
我正在尝试确定 python float 与零进行比较时的精确度。请注意以下几点: 1e-323 == 0 > False 1e-324 == 0 > True 我认为阈值是 324 个小数点,至少对
我想使用 .ftr 文件来快速分析数百个表。不幸的是,我在十进制和千位分隔符方面遇到了一些问题,类似于 that post ,只是 read_feather 不允许 decimal=',', thou
在 SQL Server 2008 中,我正在运行一个报告,我需要在其中划分两列(称为 Completes 和 Prescreens,整数),然后转到 Excel并得到 Prescreens 除以 C
我有一个 NSString,我想将其转换为 NSDecimalNumber。该字符串是从服务器接收的,并且始终使用 en_US 语言环境进行格式化,例如 XXX.YYY 而不是 XXX,YYY。我想创
我是一名优秀的程序员,十分优秀!