gpt4 book ai didi

javascript - 浮点精度问题js

转载 作者:行者123 更新时间:2023-11-30 11:30:27 27 4
gpt4 key购买 nike

我在我的 JS 中遇到以下错误。

(1.001 * Math.pow(10, 3))

不是返回 1001,而是返回 1000.99999999。我正在尝试根除此错误并一直在考虑使用此 big.js图书馆。

我不确定如何解决这个问题。

我尝试了以下方法,但似乎不起作用。

var x = new Big(10);
(1.001 * x.pow(3));

这会产生与没有库时相同的错误。

最佳答案

你必须那样使用 Big.js,我认为你必须忘记使用传统的运算符:

console.log(Big(1.001).times(Big(10).pow(3)))
<script src="https://cdnjs.cloudflare.com/ajax/libs/big.js/3.2.0/big.min.js"></script>

关于javascript - 浮点精度问题js,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46422079/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com