gpt4 book ai didi

javascript - 将字节转换为 TB 返回错误值

转载 作者:行者123 更新时间:2023-12-01 00:52:17 25 4
gpt4 key购买 nike

目前我有一个将字节转换为 TB 的函数。

我使用下面的公式进行转换。

const formatBytesToTB = (a, b = 2) => {
if (a === 0) {
return "0 TB";
}
return (a / 1099511627776).toFixed(b) + " TB";
};
console.log(formatBytesToTB(109213384704));

上述函数对于它接受的大多数字节值都运行良好

当字节值小于 1 TB 时,我看到一些错误。

例如,当输入为“109213384704”时,函数返回“0.10 TB”

预期输出应为“0.09”

我见过很少的在线转换器来测试它们返回的内容,Google 返回 0.10,但其余转换器显示 0.09

该函数执行正确的操作吗?

最佳答案

这似乎是一个显示问题 - 舍入与忽略精度值后的小数。

109213384704/1099511627776 的值为 0.099328995

因此,如果您想简单地忽略第二个小数点之后的任何内容,您将得到 0.09

但是,toFixed 会将数字四舍五入到精度值,因此 0.099 将得到 0.10,而 0.091结果为 0.09

关于javascript - 将字节转换为 TB 返回错误值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56882362/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com