Java 资源可以进行数字运算吗？

Question

使用 Java 学习“数字运算”的最佳资源是什么？我指的是使用 Java 进行数字处理编码时的十进制数字处理的正确方法、最佳实践、API、值得注意的性能习惯用法和常见陷阱(及其解决方案)等。

Answer 1

这个问题似乎有点开放式，可以解释。因此，我只给出两点简短的内容。

1) 十进制精度 - 永远不要假设两个 float (或 double )相等，即使您执行了完全相同的步骤来计算它们。由于在各种情况下舍入存在许多问题，您通常无法确定十进制数是否正是您所期望的。如果你这样做double myNumber = calculateMyNumber()然后做一堆事情，然后回来检查 if(myNumber == calculateMyNumber() ，即使您没有更改在calculateMyNumber()中完成的计算，该评估也可能是错误的

2) 您可以跟踪的数字的大小和精度存在限制。如果您有int myNumber = 2000000000和if(myNumber*2 < myNumber) ，这实际上会计算为 true，因为 myNumber*2 将导致一个小于 myNumber 的数字，因为为该数字分配的内存不够大，无法容纳这么大的数字，并且它会溢出，变得比以前小。查看封装大量数字的类，例如 BigInteger和 BigDecimal .

如果您研究数字的计算机表示形式或数字的二进制表示形式，您就会发现类似的副作用。