德尔菲减法错误？如何解决这个问题？

Question

我有这样的代码:

debt:=debt+(p_sum-p_addition-p_paid);

此行之前

debt:=0;
p_sum:=36;
p_addition:=3.6;
p_paid:=32.4;

此行债务变量获得如下值:1.3322676e-15;

Answer 1

您正在使用二进制浮点运算。您的非整数值无法用二进制 float 表示。因此，您可能会出现舍入错误。

您实际上想要使用十进制而不是二进制表示形式进行操作。如果您这样做，那么您的值将全部准确表示，并且算术也将准确。

在 Delphi 中，十进制实数值数据类型是货币。我建议您切换到货币进行这些计算。

有关此主题的必读内容是 What Every Computer Scientist Should Know AboutFloating-Point Arithmetic .