gpt4 book ai didi

awk - awk 中的数学 - float 的意外格式化 - 精度损失

转载 作者:行者123 更新时间:2023-12-02 20:51:22 25 4
gpt4 key购买 nike

<分区>

我正在尝试用 awk 做一些简单的数学运算

user@lab-client:~$ awk '{ram=(1.8 * 1024) * 1024; print ram}'

1.88744e+06

所以我假设这意味着这个数字太大而无法存储在变量“ram”中

总数为:1887436.8

让我们尝试将该数字存储在变量中

user@lab-client:~$ awk '{ram=1887436.8; print ram}'

1.88744e+06

还是一样。但是,如果我们去掉“.”呢?

user@lab-client:~$ awk '{ram=18874368; print ram}'

18874368

进一步测试表明,当点在数字中时,不能超过6位

user@lab-client:~$ awk '{ram=188743.68; print ram}'

188744

所以它不是一个太大的数字,它是把事情搞砸的点。我该如何解决这个问题?

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com