c# - 比较 float 的总和

Question

这个问题在这里已经有了答案:





Is floating point math broken?

(31 个回答)


去年关闭。




我在 Unity 中运行此代码(带有 .Net 4.x 的 Mono 后端)

float a = 0.42434249394294f;
float b = 1 - a;
float sum = a + b;
bool compare1 = (a + b) >= 1f;
bool compare2 = sum >= 1f;

在调试(使用 Visual Studio)中， compare1是 false而 compare2是 true .

这是怎么回事？为什么最后两行不同？我认为 sum == a + b .

Answer 1

您遇到了一个非常常见的数值精度错误，称为 round-off error .对浮点值求和时，需要包含容错。这种错误是所有编程语言中浮点数学运算所固有的。

您的代码应更改为如下所示:

const float errorTolerance = 0.000001f;
float target1 = a + b;
float target2 = sum;
bool compare1 = Math.Abs(target1 - 1f) <= errorTolerance;
bool compare2 = Math.Abs(target2 - 1f) <= errorTolerance;

还要注意在 c# 中使用浮点数，它是一个单精度浮点数，精度只有 6-7 位有效数字。