gpt4 book ai didi

java - 高效计数器 float 错误

转载 作者:行者123 更新时间:2023-12-01 18:28:53 24 4
gpt4 key购买 nike

我在 Java 和 MATLAB 中都遇到问题,其中两个应该相同的数字显然不同。

Java:

float f1 = 0.3f-0.2f;
float f2 = 0.4f-0.3f;
System.out.println(f1==f2); // Prints false

System.out.println(f1); // Prints 0.10000001
System.out.println(f2); // Prints 0.099999994

显然f1应等于 f2 。替换equals的最有效(计算)方法是什么?低于该值会返回 true 吗?

public boolean equals(float f1, float f2){
return f1 == f2;
}

我需要对数十万个 float 进行操作,因此优化在这里很重要。

最佳答案

比较 float 的最好方法是选择一些小的 epsilon,然后比较两个 float 之间的差异是否小于该 epsilon。即

if ( Math.abs(f1 - f2) < .00001){
return true;
}

关于java - 高效计数器 float 错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25042083/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com