java - Groovy 数字比较问题

Question

我试图从数据库中检索一些值并在 Groovy 脚本中使用它们，以便查找和比较差异。

示例如下(当我在定义中使用浮点值时，在数据库中它们被定义为数字且精度为 2)，这就是输出的样子

>

通常，通过查看这些值，我预计两者的差异均为 16，但事实并非如此。

对于我会错过的内容有什么建议吗？

Answer 1

当数字以 NUMBER(x,2) 或类似类型存储在数据库中时，这意味着您将获得小数点后 2 位的精确数值。通过将它们转换为 float ，您会引入错误(一个小且有限的错误，但正如您所发现的那样，这是一个明显的错误)，因为其中一些数字没有精确的表示。有些数字在转换为二进制时会无限重复，并且必须在某个地方被截断。 BigDecimal 准确地表示数字，只要您不通过传入浮点值来构造它们，在这种情况下，在 BigDecimal 介入之前就已经造成了损害(此时它所能做的就是准确地表示原始数字的浮点近似值)。我认为使用 BigDecimal 可以轻松解决您的问题。

由于它是 Groovy 脚本，我认为性能不是您最大的考虑因素，如果是(并且您担心实例化 BigDecimals 创建的所有垃圾)，那么您可能会考虑 JB Nizet 建议的增量方法。 (有关如何使用 float 的一些提示，请参阅 this article by Peter Lawrey。)但是 Java 的 GC 需要大量临时对象，这通常不是最大的性能问题。

有一个关于 float 与小数的问题 here答案描述了为什么浮点不精确。