gpt4 book ai didi

perl - 科学计数法会影响 Perl 的精度吗?

转载 作者:行者123 更新时间:2023-12-01 12:44:42 24 4
gpt4 key购买 nike

我在 Perl 中遇到了一个奇怪的行为。以下减法应产生零作为结果(它在 Python 中这样做):

print 7.6178E-01 - 0.76178
-1.11022302462516e-16

为什么会发生,如何避免?

附言效果出现在“v5.10.0 built for x86_64-linux-gnu-thread-multi”(Ubuntu 9.04)和“v5.8.9 built for darwin-2level”(Mac OS 10.6)

最佳答案

并不是科学记数法对精度的影响,而是以二进制表示的浮点记数法的局限性。查看 perlfaq4 的答案.对于任何依赖底层架构进行数字存储的语言来说,这都是一个问题。

如果您需要更好的号码处理,请查看 bignum语用。

关于perl - 科学计数法会影响 Perl 的精度吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2056681/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com