gpt4 book ai didi

algorithm - 用户输入的 float 相等

转载 作者:塔克拉玛干 更新时间:2023-11-03 04:31:11 25 4
gpt4 key购买 nike

这个问题的标题可能不准确。目前我正在使用 somethig similar检查两个浮点值是否“等于”

public boolean equality(float a, float b) {
return a == b || (Math.abs(a - b) < EPSILON);
}

当我需要检查类似 10/3 的结果时,如果用户输入类似 3.3 的内容是有效答案,就会出现问题。如何调整功能以适应这种情况

最佳答案

您可以为每个相等性检查添加容差并删除直接相等性,因为它依赖于其他检查并且不可靠。

public boolean equality(float a, float b, int numberOfImportantDigits) {
float tolerance=1.0/pow(10.0,numberOfImportantDigits-1);

return Math.abs(a - b) < tolerance;
}

然后

equality(10.0f/3.0f, 3.3f, 2)

应该给出 0.03333 < 0.1,这是正确的。

equality(1.0f, 1.0000001f, 2)

也应该让 0.0000002 < 0.1 如此真实。

equality(2.0f, 2.09f, 2)

也给出真。

equality(2.00f, 2.10f, 2)

可能会也可能不会取决于 2.1 在机器中是否为 2.099999999。

关于algorithm - 用户输入的 float 相等,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36756222/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com