gpt4 book ai didi

toPrecision() 函数中的 Javascript 错误

转载 作者:行者123 更新时间:2023-11-30 08:35:18 25 4
gpt4 key购买 nike

我想在显示之前使用 toPrecision() 减小数字的大小。但是,有时我无法将函数的输出乘以另一个数字而不会产生小的舍入误差。请参阅下面的代码示例:

var x = 0.0197992182093305
alert (x.toPrecision(4)) //Correct: 0.01980
alert (Number(x.toPrecision(4))) //Correct: 0.0198
alert( Number(x.toPrecision(4)) * 100) //Incorrect: 1.9800000000000002

JSFiddle:http://jsfiddle.net/ueLsL460/4/这是怎么回事?

最佳答案

根据我的理解,Number(x.toPrecision(4)) * 100 创建了一个新的 Number 对象,它不会继承父对象的精度。

如果在 Math 之后仍然希望它精确,则需要再次将其放入 precision。

alert((x * 100).toPrecision(4));

从技术上讲,这不是错误。这正是 javascript 的工作方式。

关于toPrecision() 函数中的 Javascript 错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/31955444/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com