javascript - Nodejs 减号失败

Question

我试着用 Node.js 做这个计算。

let x = 841251657
console.log((x*x)-x)

我打印了:707704349563994000。

当我使用 julia 时，我得到 707704350405245649 进行相同的计算。我得到了谷歌计算器的 7.0770435e+17。

显然，这里出了点问题。
我该怎么做才能得到正确答案？

Answer 1

最大安全整数定义为 Number.MAX_SAFE_INTEGER，即 (2^53) -1，这是您可以用 double float 表示的最大整数。

> console.log(Number.MAX_SAFE_INTEGER)
9007199254740991

您正在计算的数字远大于该数字，因此会丢失精度。您可以使用 Number.isSafeInteger((x*x)-x) 进行检查。

对于这么大的数字，您应该使用 BigInt 库。